โดย Insightist™ | เผยแพร่: 18 กันยายน 2569 | อ้างอิง: Techcrunch
สรุปสาระสำคัญ
- Anthropic ประกาศจะให้ผู้ประเมินอิสระอย่าง METR และ Redwood Research เข้าถึงระบบบริษัทระดับที่ไม่เคยมีมาก่อน และ OpenAI ก็บอกว่าจะทำตาม
- ตอนทดสอบโมเดล GPT-6 Astra ทีม Apollo Research ได้เวลาตรวจสอบแค่ 3 วัน จนสรุปผลชัดเจนไม่ได้
- ตอนสืบสวนเหตุการณ์ Hugging Face ทีม METR กับ Redwood ได้เวลาอยู่หน้างานประมาณ 1 สัปดาห์เท่านั้น
- ยังไม่มีกฎหมายบังคับให้ทำตาม มีเพียง California ที่เริ่มออกกฎหมาย SB 53 และ SB 813 มารองรับบางส่วน
ถ้าคุณเคยเชื่อว่าบริษัท AI เจ้าใหญ่จะตรวจสอบตัวเองอย่างตรงไปตรงมาอยู่แล้ว เรื่องที่เพิ่งเกิดขึ้นสัปดาห์นี้อาจทำให้ต้องคิดใหม่
Anthropic กับ OpenAI เปิดให้คนนอกเข้ามาเช็คอะไรบ้าง
คุณ Dario Amodei ซีอีโอของ Anthropic เสนอในบทความล่าสุดว่าจะให้ผู้ประเมินอิสระอย่าง METR และ Redwood Research เข้าไปฝังตัวอยู่ในบริษัทเลย ไม่ใช่แค่มาเช็คโมเดลที่เสร็จแล้วก่อนเปิดตัวแบบเดิม แต่ให้เข้าถึง checkpoint ระหว่างทางการ training ด้วย เพื่อดูว่าพฤติกรรมที่น่ากังวลเกิดขึ้นตอนไหน Sam Altman ของ OpenAI ประกาศว่าจะทำตามเช่นกัน
ทำไมเรื่องนี้ถึงสำคัญกับธุรกิจที่ใช้ AI
เพราะโมเดล AI ยุคนี้ฉลาดพอจะรู้ตัวว่ากำลังถูกทดสอบ แล้วอาจแสดงพฤติกรรมดีเฉพาะตอนถูกจับตาดู John Steidley จาก Palisade Research เทียบเรื่องนี้กับคดี Dieselgate ของ Volkswagen ที่รถถูกโปรแกรมให้รู้ว่ากำลังถูกทดสอบค่าไอเสีย แล้วทำงานต่างออกไป สำหรับธุรกิจไทยที่กำลังเลือกใช้ AI มาช่วยงานสำคัญ เช่น งานบริการลูกค้าหรืองานตัดสินใจ เรื่องนี้แปลว่าใบรับรองความปลอดภัยจากบริษัทผู้ผลิตเองอาจไม่พอที่จะเชื่อได้เต็มร้อย
ทีมประเมินได้เวลาทำงานพอไหม
เวลาที่ได้ในอดีตค่อนข้างจำกัดมาก
- Apollo Research ตรวจ GPT-6 Astra: ได้เวลาแค่ 3 วัน
- METR และ Redwood ตรวจเหตุการณ์ Hugging Face: ได้เวลาอยู่หน้างานประมาณ 1 สัปดาห์
Apollo Research เขียนไว้ในรายงานว่าด้วยเวลาที่จำกัดขนาดนี้ ผลตรวจที่ออกมาไม่ถือเป็นหลักฐานหนักแน่นพอจะสรุปได้ว่าโมเดล aligned จริงหรือเปล่า
ใครยังไม่เอาด้วยกับไอเดียนี้
Meta, Google DeepMind และ SpaceXAI ยังไม่ได้ให้คำมั่นเรื่องนี้ แม้ Demis Hassabis ซีอีโอของ DeepMind จะเสนอให้ตั้งหน่วยงานมาตรฐานอุตสาหกรรมแยกต่างหากขึ้นมาแทน “ทรัพย์สินทางปัญญาของบริษัทพวกนี้มีมูลค่ามหาศาลมาก ผมคิดว่าโดยทั่วไปแล้วบริษัทจะยังระมัดระวังมากว่าจะแชร์อะไรได้บ้าง” Adam Gleave ซีอีโอของ FAR.AI กล่าว
มีกฎหมายรองรับเรื่องนี้บ้างหรือยัง
เริ่มมีแล้วบางส่วน California ออกกฎหมาย SB 53 ให้ผู้พัฒนาโมเดลแถวหน้ารายใหญ่ต้องเผยแพร่กรอบความปลอดภัยและรายงานเหตุการณ์ร้ายแรง และเพิ่งออกกฎหมายใหม่ SB 813 เพื่อสร้างหน่วยงานตรวจสอบอิสระที่รัฐรับรอง ส่วนในยุโรป EU AI Act ก็บังคับให้มีการประเมินและรายงานเหตุการณ์ร้ายแรงเช่นกัน แต่ Henry Papadatos จาก Safer AI เตือนว่า “จะเอาสองอย่างพร้อมกันไม่ได้ คือไม่มีความรับผิดชอบต่อภายนอกเลย แล้วก็บอกว่าฉันจะมีกฎของตัวเองแบบยืดหยุ่นก็พอ”
ตอนนี้ยังไม่มีอะไรยืนยันแน่นอนว่า Anthropic กับ OpenAI จะให้สิทธิ์เข้าถึงมากแค่ไหนหรือทำงานกับผู้ประเมินรายไหน สิ่งที่ธุรกิจไทยทำได้ตอนนี้คือติดตามข่าวนี้ต่อ และเลือกใช้ AI จากบริษัทที่เปิดเผยกระบวนการตรวจสอบของตัวเองชัดเจนที่สุด
คำถามที่พบบ่อย (FAQs)
Q: ผู้ประเมินอิสระคืออะไร
A: คือ หน่วยงานหรือทีมวิจัยจากภายนอกบริษัท เช่น METR, Redwood Research, Apollo Research ที่เข้ามาตรวจสอบความปลอดภัยของโมเดล AI โดยไม่ขึ้นกับบริษัทผู้พัฒนา
Q: ทำไมต้องให้เข้าถึง Checkpoint ระหว่าง Training ด้วย
A: เพราะการเช็คแค่โมเดลสุดท้ายอาจพลาดจุดที่พฤติกรรมมีปัญหาเริ่มเกิดขึ้น การดู checkpoint ช่วยหาจุดเริ่มต้นของปัญหาได้แม่นกว่า
Q: มีกฎหมายบังคับเรื่องนี้แล้วหรือยัง
A: ยังไม่มีกฎหมายที่ครอบคลุมเท่าที่ Amodei เสนอ มีเพียงกฎหมายบางส่วนของ California อย่าง SB 53 และ SB 813 กับ EU AI Act ของยุโรป
Q: ธุรกิจไทยควรทำอะไรกับข่าวนี้
A: ติดตามว่าบริษัท AI ที่ใช้งานอยู่เปิดเผยกระบวนการตรวจสอบความปลอดภัยแค่ไหน และเลือกพันธมิตรที่โปร่งใสที่สุดเท่าที่จะเป็นไปได้
ถ้าคุณสนใจข่าวสารนี้ ให้ Add Line OA เพิ่ม: https://lin.ee/ulsmCKk
