How to Set Up an NVIDIA DGX Spark (And Start Talking to Your Local LLM)

1
00:00:00,000 --> 00:00:04,390
เรามีสมาชิกใหม่ตัวใหญ่ๆ เข้ามาใน Tonbi's AI Garage

2
00:00:04,390 --> 00:00:10,537
นะครับ อย่างที่หลายคนรู้ ผมใช้งาน RTX 3060 อยู่ที่เครื่องนู้นมานานแล้ว

3
00:00:10,537 --> 00:00:14,927
และหลายคนคงเห็นว่าผมพยายามฝืนทำการทดลองโมเดล local

4
00:00:14,927 --> 00:00:19,054
มาตลอด แต่ตอนนี้เรามี DGX Spark เครื่องใหม่แล้ว

5
00:00:19,054 --> 00:00:23,356
ต้องขอขอบคุณภรรยาที่ซื้อให้เป็นของขวัญวันเกิดครับ

6
00:00:23,356 --> 00:00:27,483
ดังนั้นต่อจากนี้เราจะได้เห็นการทดลองโมเดล local

7
00:00:27,483 --> 00:00:31,961
ที่หลากหลายขึ้น และได้เล่นกับ local model บนเครื่อง

8
00:00:31,961 --> 00:00:37,932
DGX Spark ตัวนี้กันแบบเต็มที่ ในวิดีโอวันนี้ ผมจะมาตั้งค่าเครื่องนี้

9
00:00:37,932 --> 00:00:42,498
เชื่อมต่อเข้ากับพีซีหลักของผม แล้วก็ลองติดตั้ง local

10
00:00:42,498 --> 00:00:47,415
model ตัวแรกของเรากันดูนะครับ เริ่มกันเลย อีกอย่างนะครับ

11
00:00:47,415 --> 00:00:54,176
ถ้าใครสนใจทำ Agent เองและอยากเข้าถึง LM wikis (คลังความรู้เกี่ยวกับโมเดลภาษา)

12
00:00:54,176 --> 00:00:59,883
ที่ผมใช้ค้นคว้าและทำวิดีโอเหล่านี้ด้วย ลองแวะไปดูโปรเจกต์ของผมที่

13
00:00:59,883 --> 00:01:05,064
agentwikis.com ได้เลย ผมให้ wikis เหล่านี้ฟรีทั้งหมดในหลายๆ

14
00:01:05,064 --> 00:01:09,191
หัวข้อเลย และถ้าอยากสมัคร pro account ก็เดือนละ

15
00:01:09,191 --> 00:01:17,357
$9.99 จะได้เข้าถึง wikis ขนาดใหญ่พิเศษที่มีหน้ามากกว่าและรายละเอียดเพิ่มขึ้นในแต่ละหัวข้อด้วย

16
00:01:17,357 --> 00:01:21,484
เอาล่ะ กลับมาที่วิดีโอกัน ฝาครอบเปิดออกแล้วครับ

17
00:01:21,484 --> 00:01:26,401
นี่คือ NVIDIA DGX Spark ของเรา ดูดีมากๆ จริงๆ คือง่ายมาก

18
00:01:26,401 --> 00:01:31,932
ไม่มีอะไรซับซ้อนเลย มีสายแค่สองเส้น ซึ่งจริงๆ ก็คือสายไฟนี่แหละ

19
00:01:31,932 --> 00:01:37,903
พอเสียบเข้าไปเครื่องก็จะเปิดขึ้นมาเอง วิธีที่ผมจะใช้คือเชื่อมต่อผ่าน

20
00:01:37,903 --> 00:01:43,259
hotspot ด้วย local network แล้วก็จะทำงานต่อที่พีซีของผมนะครับ

21
00:01:43,259 --> 00:01:47,737
ทีนี้เห็นไหมครับว่าผมเพิ่งเสียบสายเข้าไป นี่เป็นแค่

22
00:01:47,737 --> 00:01:54,147
power adapter ตัวเดียวเท่านั้นเอง ผมยังไม่แน่ใจว่านี่จะเป็นที่ตั้งถาวรของ

23
00:01:54,147 --> 00:02:01,786
Spark ของผมหรือเปล่า แต่ดูจากตรงนี้ก็ดูดีนะ สำหรับตอนนี้ขอถือว่าเป็นที่ตั้งชั่วคราวก่อน

24
00:02:01,786 --> 00:02:05,913
ผมจะเสียบสายเข้าไป คู่มือบอกว่ามันจะสร้าง Wi-Fi

25
00:02:05,913 --> 00:02:10,479
hotspot ของตัวเองขึ้นมา ลองดูว่ามันจะเป็นยังไงนะครับ

26
00:02:10,479 --> 00:02:15,133
เอาล่ะ เสียบเข้าไปแล้ว ตอนนี้เราเสียบสายเรียบร้อยแล้ว

27
00:02:15,133 --> 00:02:19,611
ต่อไปเรามาดูที่พีซีกันนะครับ ผมอยู่ที่พีซีของผมแล้ว

28
00:02:19,611 --> 00:02:24,352
ผมเสียบเข้าไปแล้ว ไม่ต้องเปิดเครื่องหรือทำอะไรเพิ่มเลย

29
00:02:24,352 --> 00:02:29,094
เพราะมันจะเปิดขึ้นมาเองอัตโนมัติ จากนั้นให้คลิกลงมาที่

30
00:02:29,094 --> 00:02:34,450
network ตรงนี้ แล้วจะมีชื่อที่ขึ้นว่า Spark ปรากฏขึ้นมาเองเลย

31
00:02:34,450 --> 00:02:39,279
แบบนี้อ่ะครับ มันเด้งขึ้นมาเอง ผมไม่ได้เพิ่มเข้าไปเองนะ

32
00:02:39,279 --> 00:02:44,284
ก็ให้คลิกที่ Spark แล้วผมว่าเราก็แค่กด connect ใช่ไหมครับ

33
00:02:44,284 --> 00:02:49,289
จะมีรหัสผ่านให้ใส่ด้วย รหัสนั้นจะอยู่บนการ์ดที่มาพร้อมกับ

34
00:02:49,289 --> 00:02:53,943
Spark ของคุณ เป็นรหัสสำหรับ hotspot ก็ใส่เข้าไปได้เลย

35
00:02:53,943 --> 00:02:58,772
พอเชื่อมต่อแล้ว มันจะพาเราไปที่หน้าเว็บไซต์โดยอัตโนมัติ

36
00:02:58,772 --> 00:03:04,567
หน้านี้จะเด้งขึ้นมาเอง ให้เปิดหน้านี้ในเว็บเบราว์เซอร์เพื่อตั้งค่า

37
00:03:04,567 --> 00:03:08,782
personal AI supercomputer (ซูเปอร์คอมพิวเตอร์ AI

38
00:03:08,782 --> 00:03:12,909
ส่วนบุคคล) ตัวใหม่ของคุณ ได้เลยครับ ผมก็จะ copy

39
00:03:12,909 --> 00:03:18,177
แล้ว paste ลิงก์นี้ไป ครับ อีกครั้งนะ ผมอยู่ที่พีซีปกติของผม

40
00:03:18,177 --> 00:03:22,304
คือเครื่องที่เห็นผมทำงานอยู่ แต่เราเชื่อมต่อกับ

41
00:03:22,304 --> 00:03:27,221
Spark ผ่าน hotspot นะครับ แนวคิดคือให้ลองเชื่อมต่อโดยใช้

42
00:03:27,221 --> 00:03:33,719
NVIDIA Sync กับพีซีของผม เพื่อให้สามารถเชื่อมต่อเข้าถึงได้โดยอัตโนมัติผ่าน

43
00:03:33,719 --> 00:03:38,021
SSH เริ่มกันเลย เลือกภาษา English เลือก time zone

44
00:03:38,021 --> 00:03:42,148
กดยอมรับ terms of use ตกลง แล้วก็สร้าง username

45
00:03:42,148 --> 00:03:47,065
และ password สำหรับเครื่องนี้ ตอนนี้มันกำลังเชื่อมต่อกับ

46
00:03:47,065 --> 00:03:51,192
Wi-Fi ผมว่าตอนนี้มันกำลังเชื่อมต่อเข้ากับ Wi-Fi

47
00:03:51,192 --> 00:03:55,494
router ตัวจริงของผม ก็เลือกเชื่อมต่อเข้ากับ Wi-Fi

48
00:03:55,494 --> 00:03:59,885
ของผมได้เลย กำลังเข้าร่วม Wi-Fi network ของเราอยู่

49
00:03:59,885 --> 00:04:06,470
เชื่อมต่อเรียบร้อย และต่อไปมันจะทำการอัปเดต ซึ่งขั้นตอนนี้จะใช้เวลาสักหน่อย

50
00:04:06,470 --> 00:04:11,212
เพราะนี่เป็นการตั้งค่าครั้งแรก คู่มือบอกว่าน่าจะประมาณ

51
00:04:11,212 --> 00:04:19,553
10 นาที แต่เดี๋ยวลองดูกันนะครับ ทีนี้เห็นไหมครับว่ามันกำลังดาวน์โหลดและติดตั้งอัปเดตทั้งหมดอยู่

52
00:04:19,553 --> 00:04:27,456
ระหว่างที่รออัปเดต ขอให้ดูสิ่งที่เราจะทำก่อน มีอยู่สองสามวิธีในการเชื่อมต่อกับมันเหมือนกัน

53
00:04:27,456 --> 00:04:31,670
จะทำ manual SSH (การเชื่อมต่อระยะไกลแบบกำหนดเอง)

54
00:04:31,670 --> 00:04:36,412
ก็ได้ แต่วิธีที่ง่ายที่สุดสำหรับเราคือการเชื่อมต่อผ่าน

55
00:04:36,412 --> 00:04:40,890
NVIDIA Sync เพราะเขาจัดการให้หมดเลย ผมก็จะดาวน์โหลด

56
00:04:40,890 --> 00:04:45,192
NVIDIA Sync มา มีให้เลือกทั้งเวอร์ชัน Windows และ

57
00:04:45,192 --> 00:04:50,373
Mac OS แล้วแต่ว่าใช้ระบบไหนอยู่ เอาล่ะ ตอนนี้เราจะมาติดตั้ง

58
00:04:50,373 --> 00:04:55,202
NVIDIA Sync กัน ให้ใส่ IP ของอุปกรณ์ แล้วก็ใส่ username

59
00:04:55,202 --> 00:05:00,646
กับ password จากนั้นก็ลองกด connect ดู เชื่อมต่อสำเร็จแล้วครับ

60
00:05:00,646 --> 00:05:06,441
ผมตั้งชื่อ Spark ของผมว่า Hibana ซึ่งเป็นภาษาญี่ปุ่นแปลว่าประกายไฟ

61
00:05:06,441 --> 00:05:11,973
ก็ไม่ได้สร้างสรรค์อะไรมาก แต่จำง่ายดี เราเชื่อมต่อกันแล้วนะครับ

62
00:05:11,973 --> 00:05:16,100
งั้นมาดู dashboard กัน อีกครั้ง ให้ใส่ username

63
00:05:16,100 --> 00:05:20,315
และ password ที่นี่ แล้วเราก็มาถึง DGX dashboard

64
00:05:20,315 --> 00:05:24,529
ของเราแล้ว นี่เป็นเครื่อง Unix หรือ Linux นะครับ

65
00:05:24,529 --> 00:05:28,832
ก็ควรจะอัปเดตก่อนใช่ไหมครับ เราเห็น system memory

66
00:05:28,832 --> 00:05:36,559
ของเราอยู่ที่นี่ รวม 128 GB เลย หน้านี้จะแสดงข้อมูลทั้งหมดเกี่ยวกับสถานะของเครื่องของคุณ

67
00:05:36,559 --> 00:05:40,685
ขออัปเดตทุกอย่างก่อนเลย ตอนนี้เครื่องกำลังรีบูต

68
00:05:40,685 --> 00:05:44,812
ทีนี้มันเด้งขึ้นมาเป็นไอคอนเล็กๆ ตัวนี้ ลองเปิด

69
00:05:44,812 --> 00:05:49,905
terminal ดู เอาล่ะ ตอนนี้เราเริ่มทำงานได้แล้ว นี่ก็เป็นแค่

70
00:05:49,905 --> 00:05:57,105
terminal ปกติที่เชื่อมต่ออยู่กับ Spark ของผม คุณก็สามารถติดตั้งอะไรก็ได้ตามต้องการ

71
00:05:57,105 --> 00:06:01,583
จะเป็น Hermes Agent, Claude Code, Codex หรือ coding

72
00:06:01,583 --> 00:06:07,027
agent (โปรแกรมช่วยเขียนโค้ดอัตโนมัติ) ตัวไหนก็ได้ที่คุณอยากใช้

73
00:06:07,027 --> 00:06:11,856
ในวิดีโอนี้ผมแค่อยากลองตั้งค่า local model ตัวหนึ่งก่อน

74
00:06:11,856 --> 00:06:17,125
ผมขอใช้ Ollama เพราะมันทำได้เร็วดี นี่คือคำสั่งสำหรับติดตั้ง

75
00:06:17,125 --> 00:06:21,691
Ollama พอตั้งค่าทุกอย่างเรียบร้อยแล้ว ผมน่าจะติดตั้ง

76
00:06:21,691 --> 00:06:27,398
llama.cpp ด้วย แต่ตอนนี้ขอแค่ให้เห็นว่าเราสามารถรันโมเดลได้ที่นี่

77
00:06:27,398 --> 00:06:35,125
เราจะใช้ Ollama ก่อน ส่วน llama.cpp ไว้สำหรับตอนที่เราจะเอาจริงกับการทดลองและการปรับแต่ง

78
00:06:35,125 --> 00:06:39,779
local model กันนะครับ กำลังติดตั้งอยู่ ตอนนี้ลองโมเดล

79
00:06:39,779 --> 00:06:43,905
Qwen ตัวหนึ่งดู ผมมักจะได้ยินมาว่า Qwen 3.6 27B

80
00:06:43,905 --> 00:06:50,403
นั้นดีมาก และก็มีคนแนะนำมาหลายตัวเหมือนกันตั้งแต่ผมบอกคนอื่นว่าจะลองทำอะไร

81
00:06:50,403 --> 00:06:55,232
ขอเลือกตัวนี้ก่อนเพราะรู้ว่าเป็นที่นิยมมาก เอาตัวนี้ล่ะ

82
00:06:55,232 --> 00:06:59,710
ต้องติดตั้ง system ก่อน คำสั่งนี้คือ sudo systemctl

83
00:06:59,710 --> 00:07:03,925
start Ollama ควรจะเริ่มระบบให้เลย ไม่ต้องไปพิมพ์

84
00:07:03,925 --> 00:07:08,930
Ollama serve โดยตรง จากนั้นเราก็ pull โมเดอร์โดยใช้คำสั่ง

85
00:07:08,930 --> 00:07:15,076
Ollama pull Qwen 3.6 27B โอเค pull เสร็จแล้ว ต่อไปต้องรันมันด้วยคำสั่ง

86
00:07:15,076 --> 00:07:21,398
Ollama run แล้วตามด้วยชื่อโมเดล การรันครั้งแรกน่าจะใช้เวลาสักหน่อยนะครับ

87
00:07:21,398 --> 00:07:26,052
ลองส่งข้อความดู พิมพ์ Hello มาแล้ว เริ่มเห็นกระบวนการ

88
00:07:26,052 --> 00:07:32,989
thinking (การคิดวิเคราะห์) ของโมเดลได้แล้ว คิดเยอะเหมือนกันเลยสำหรับการตอบคำว่า

89
00:07:32,989 --> 00:07:37,116
hello และนี่ไง ตอบว่า Hello, how can I help you

90
00:07:37,116 --> 00:07:42,647
today? เราได้ Qwen 3.6 27B รันขึ้นมาแล้ว และนี่เป็นการใช้งานแบบ

91
00:07:42,647 --> 00:07:47,125
out of the box เลยนะครับ ผมยังไม่ได้ปรับแต่งอะไรเลย

92
00:07:47,125 --> 00:07:53,886
แต่ผมรู้ว่ามีหลายวิธีที่จะเร่งความเร็วและทำให้มันทำงานได้มีประสิทธิภาพมากขึ้น

93
00:07:53,886 --> 00:07:58,452
แต่สำหรับวิดีโอวันนี้ขอแค่นี้ก่อนนะครับ อยากแค่แนะนำ

94
00:07:58,452 --> 00:08:03,106
DGX Spark ของผมให้รู้จัก และโชว์วิธีเชื่อมต่อแบบสั้นๆ

95
00:08:03,106 --> 00:08:08,199
ซึ่งง่ายมากๆ NVIDIA ทำ dashboard (แผงควบคุม) ได้ดีมากจริงๆ

96
00:08:08,199 --> 00:08:12,852
ดูตรงนี้ได้เลยว่าตอนนี้เราใช้ memory ไป 42 GB เพราะมี

97
00:08:12,852 --> 00:08:18,121
Qwen 3.6 27B รันอยู่ ใช่ครับ เชื่อมต่อง่ายมาก และอย่างที่บอก

98
00:08:18,121 --> 00:08:22,599
คุณจะได้เห็นการทดลองและเนื้อหาเกี่ยวกับ local model

99
00:08:22,599 --> 00:08:26,726
อีกเพียบ ฝากติดตาม Tonbi's AI Garage บน YouTube

100
00:08:26,726 --> 00:08:30,852
และ Twitter ด้วยนะครับ ผมน่าจะโพสต์เรื่อง local

101
00:08:30,852 --> 00:08:36,033
model บน Twitter เยอะขึ้นด้วย แต่นี่ก็คือวิดีโอสำหรับวันนี้

102
00:08:36,033 --> 00:08:40,775
ฝากคอมเมนต์กันไว้ได้นะครับ บอกผมได้เลยว่าประสบการณ์กับ

103
00:08:40,775 --> 00:08:45,165
DGX Spark เป็นยังไงบ้าง และอยากให้ผมลองทดลองอะไรดี

104
00:08:45,165 --> 00:08:50,082
เครื่องนี้เปิดโลกใหม่ของการทดลอง local model ขึ้นมาจริงๆ

105
00:08:50,082 --> 00:08:56,404
ผมตื่นเต้นมากที่จะได้เริ่มเล่นกับมัน แต่สำหรับวันนี้ขอจบเพียงเท่านี้ครับ

106
00:08:56,404 --> 00:08:58,160
ขอบคุณที่รับชมนะครับ