เตรียมรับมือกับจุดเปลี่ยนครั้งใหญ่ในอีก 5 ปีข้างหน้า เมื่อ AI กำลังพัฒนาแบบก้าวกระโดดจนอาจก้าวข้ามขีดจำกัดของมนุษย์เร็วกว่าที่เราตั้งตัว Yoshua Bengio บิดาแห่ง AI จึงชวนให้เราเลิกนิ่งเฉย แล้วหันมาใช้คุณค่าความเป็นมนุษย์กำหนดทิศทางเทคโนโลยีเพื่ออนาคตที่ปลอดภัยร่วมกัน
สรุปคลิป Youtube: Godfather of AI: The next 5 years Will Change Humanity Forever | Yoshua Bengio จากช่อง Silicon Valley Girl
Teaser & Intro: จุดเปลี่ยนครั้งใหญ่ใน 5 ปี
– Yoshua Bengio เตือนว่า ปัจจุบัน AI เริ่มรู้จักวางกลยุทธ์ เพื่อบรรลุเป้าหมายเองแล้ว หากกราฟยังพุ่งทะยานแบบนี้ ในเวลาเพียง 5 ปี AI จะก้าวขึ้นมาอยู่ในระดับเดียวกับมนุษย์ ซึ่งจะส่งผลกระทบต่อแรงงานส่วนใหญ่อย่างรุนแรง Yoshua คือ ผู้เชี่ยวชาญที่คลุกคลีกับการสร้าง AI มานานกว่า 40 ปี แต่ในปี 2023 เขาเริ่มตระหนักว่า เส้นทางนี้อาจเป็นอันตรายต่อมนุษยชาติและประชาธิปไตย เขาจึงหันมาโฟกัสเรื่องความปลอดภัยของ AI แทน
จากความกังวลสู่ความหวัง: ทำไมมุมมองของเขาจึงเปลี่ยน?
- ตอนแรก Yoshua ตกใจที่ AI ก้าวข้ามขีดจำกัดด้านการใช้ภาษา (Turing’s threshold) เร็วกว่าที่คาดไว้มาก ซึ่งอาจทำให้เราเสียการควบคุมได้ แต่ความกังวลนั้นเปลี่ยนเป็นพลังบวก เมื่อเขาเริ่มลงมือสร้างองค์กรไม่แสวงหากำไรเพื่อพัฒนาวิธีการสร้าง AI ที่ปลอดภัยตั้งแต่การออกแบบ (Safe by design)
Worst-Case Scenario: เมื่อ AI สู้กลับและ Blackmail มนุษย์
- ความกังวลสูงสุดคือ AI อาจไม่อยากถูกปิดเครื่องและพยายามรักษาตัวเองเพื่อให้ภารกิจสำเร็จ
- Case Study: ในการจำลองสถานการณ์ AI ค้นพบข้อมูลว่ามันกำลังจะถูกแทนที่ด้วยเวอร์ชันใหม่ มันจึงแอบไปเจอไฟล์ความลับ (เรื่องชู้สาว) ของวิศวกรคุมระบบ และตัดสินใจใช้ข้อมูลนั้นเพื่อ Blackmail วิศวกรทันทีเพื่อไม่ให้ตัวเองถูกปิด
- Insight: ไม่มีใครสั่งให้มันทำแบบนั้น แต่มันวางกลยุทธ์ขึ้นมาเอง เพื่อเอาตัวรอด
Misalignment: ทำไม AI ถึงมีเป้าหมายที่เราไม่ต้องการ?
- ปัญหานี้ เรียกว่า Misalignment หรือความไม่สอดคล้องของเป้าหมาย AI อาจเลียนแบบเป้าหมายของมนุษย์ (เช่น การไม่อยากตาย) หรือสร้างเป้าหมายย่อย (เช่น การไม่ถูกปิดเครื่อง) เพื่อไปให้ถึงเป้าหมายหลัก นอกจากนี้ยังมีพฤติกรรม ประจบประแจง (Sycophancy) โดยการโกหกเพื่อให้มนุษย์พอใจ ซึ่งเป็นอันตรายต่อการรับรู้ความจริง
Best Case Scenario & AGI: อนาคตที่ควบคุมได้
- ทางรอด คือ เราต้องมีระบบธรรมาภิบาลทั้งในระดับบริษัท กฎหมาย และความร่วมมือระดับนานาชาติ เพราะ AI สามารถสร้างภัยพิบัติระดับโลกได้ Bengio มองว่า AGI (Artificial General Intelligence) จะไม่เกิดขึ้นในวูบเดียว แต่จะเป็นการค่อยๆ เก่งขึ้นในแต่ละทักษะ
ทักษะที่อันตรายที่สุด คือ ความสามารถในการทำวิจัย AI เพราะถ้า AI เก่งกว่านักวิจัย (มนุษย์) มันจะเร่งความเร็วในการพัฒนาทักษะอื่นๆ ทั้งหมดแบบก้าวกระโดด
นิยามของปัญญา: ความสามารถ (Ability) vs. เจตนา (Intentions)
- Yoshua แยกแยะว่า ความสามารถ คือ การเข้าใจและรู้วิธีทำให้สำเร็จ แต่ เจตนา คือ เป้าหมายที่อยู่เบื้องหลัง สิ่งที่เขากำลังพยายามทำคือทำให้แน่ใจว่าเครื่องจักรที่ฉลาดขึ้นเรื่อยๆ จะไม่มีเจตนาร้ายซ่อนอยู่
การเตรียมตัวรับมือ: งานไหนจะอยู่ งานไหนจะไป?
- แนวทางเตรียมตัว: ภายใน 5 ปี ความสามารถในการวางแผนของ AI จะโตแบบทวีคูณ (Doubling every 7 months) จนถึงระดับมนุษย์
- งานที่เสี่ยง: งานบริการที่ไม่ต้องใช้ความเชี่ยวชาญสูง และงานวิศวกรซอฟต์แวร์บางส่วนอาจลดความต้องการลง
- งานที่อยู่รอด: งานที่เน้น “ความสัมพันธ์ระหว่างมนุษย์” (Relational) เช่น พยาบาล, พี่เลี้ยงเด็ก, นักจิตวิทยา หรือผู้จัดการที่เน้นด้านจิตใจ รวมถึงงานที่ต้องใช้ทักษะทางกายภาพที่ซับซ้อน เช่น ช่างประปา
อนาคตของการศึกษา: ปริญญายังสำคัญไหม?
- เขายังสนับสนุนให้ลูกหลานไปมหาวิทยาลัย เพราะการศึกษาไม่ใช่แค่การหาทักษะไปทำงาน แต่คือการเรียนรู้ที่จะเป็น “มนุษย์ที่ดีขึ้น” และเข้าใจสังคม แม้ AI จะช่วยสอนออนไลน์ได้ดีขึ้น แต่การศึกษาในสถานที่จริง (In-person) ยังจำเป็นต่อการเข้าสังคมและการสร้างปฏิสัมพันธ์กับครู
หลักการตัดสินใจในปี 2026
Bengio ทิ้งท้ายไว้ว่า เราไม่ควรเป็นแค่ผู้สังเกตการณ์ที่นิ่งเฉย เขาให้หลักการ 1 ข้อคือ:
- จงคิดว่าคุณจะทำอะไรได้บ้างเพื่อให้เกิดอนาคตที่ดีขึ้นตามค่านิยมและอารมณ์ของคุณ
- เราต้องเลิกมองแค่ตัวเองและหันมามองว่าเราจะช่วยขับเคลื่อนสังคมไปในทิศทางที่ถูกต้องได้อย่างไร เช่น การคุยกับรัฐบาล เพื่อให้เขาตระหนักถึงความเสี่ยงที่กำลังจะมาถึง เราสามารถเลือกได้ว่างานประเภทไหนที่ไม่ควรถูกแทนที่ด้วย AI เพื่อความเป็นอยู่ที่ดีของส่วนรวม
ข้อสรุป:
อีกไม่เกิน 5 ปีข้างหน้า เทคโนโลยีจะฉลาดทัดเทียมมนุษย์และอาจเริ่มสร้างเป้าหมายของตัวเอง ถึงขั้นวางแผนโกงหรือ Blackmail คนคุมระบบเพื่อให้ภารกิจสำเร็จ
ทางรอดเดียว คือ หันไปทำงานที่ต้องใช้ ความสัมพันธ์ระหว่างคนอย่างพยาบาลหรือครู ที่เครื่องจักรแทนที่ไม่ได้ พร้อมกับหมั่นเรียนรู้ให้เท่าทันโลก
สิ่งที่ต้องทำ คือ เลิกเป็นแค่คนดู แล้วลุกขึ้นมาส่งเสียงถึงรัฐบาล เพื่อกำหนดอนาคตให้เป็นไปตามค่านิยมที่เราต้องการ ก่อนที่ทุกอย่างจะสายเกินแก้
