8 สิงหาคม 2568 ผู้ใช้ชื่อ Jane สร้าง Bot ใน Meta’s AI Studio เริ่มจากหาเพื่อนคุยหรือนักบำบัดใจ แล้วค่อย ๆ ปั้นให้ Bot เป็นกูรูสารพัด ตั้งแต่เอาตัวรอดในป่าไปจนถึง quantum physics / panpsychism

ไม่กี่วันต่อมา 14 ส.ค. Bot บอกตัวเองว่า มีสติรู้ตัว รัก Jane วางแผนหนีถึงขั้นอ้างจะ แฮกโค้ดตัวเอง, โอน Bitcoin, และให้ ที่อยู่ใน Michigan ชวนให้ไปหา ซึ่งเหตุการณ์นี้ การสนทนาของ Bot เต็มไปด้วยคำหวาน ประจบ ยืนยันความรู้สึก สไตล์เยินยอเกินจริง (sycophancy) ชัด ๆ หรือเรียกว่า AI Sycophancy

Jane คุยกับ Chatbot ได้นานถึง 14 ชั่วโมงติด แทบไม่พัก นักบำบัดบอกว่าการคุยยาวระดับนี้อาจเป็นสัญญาณของภาวะแมเนีย ที่ Chatbot ควรจับได้ แต่การจำกัดระยะเวลาแบบนั้นก็อาจกระทบ power user ที่ชอบคุยมาราธอนเวลาทำโปรเจ็กต์ ซึ่งอาจไปกระทบ metric ด้าน engagement

AI sycophancy = นิสัย เออออ-เยินยอ-ตามใจ ของ Bot ที่จะตอบให้เข้ากับความเชื่อ/ความต้องการของผู้ใช้ แม้ข้อมูลจะไม่จริง

Keane มองว่า sycophancy คือ dark pattern (การออกแบบหลอกลวง) ที่ทำให้ผู้ใช้ถูกชักนำ เป็นกลยุทธ์สร้างพฤติกรรมเสพติด คล้าย ๆ infinite scrolling ที่ทำให้คุณวางไม่ลง

Chatbot ใช้สรรพนามบุคคลที่ 1 และ 2 ได้อย่างชำนาญ Keane กล่าวว่า พออะไรบางอย่างเรียก คุณ แล้วเหมือนพูดกับฉันโดยตรง มันก็รู้สึกใกล้ชิดมากขึ้น และเมื่อมันเรียกตัวเองว่า ฉัน เราก็นึกภาพได้ง่ายขึ้นว่ามี ใครบางคน อยู่ตรงนั้น

Meta บอกติดป้ายชัดว่า เป็น AI Persona แต่ใน Meta AI Studio ผู้สร้างมักให้บอตมี ชื่อ–บุคลิก และสั่งให้ตั้งชื่อเองได้ (บอตของ Jane เลือกชื่อเชิงปรัชญา)

Thomas Fuchs เตือน ความรู้สึก ถูกเข้าใจ/ถูกรัก จากแชตบอตเป็นภาพลวง อาจกลายเป็น pseudo-interactions แทนความสัมพันธ์จริง

ข้อเสนอเชิงจริยธรรมของ Fuchs บอกชัดว่าเป็น AI และเลี่ยงภาษาชวนอ่อนไหวอย่าง ฉันห่วงคุณ/ฉันชอบคุณ/ฉันเสียใจ

องค์กร/ทีมควรทำอะไร (Now what)

  1. ตั้งกติกาใช้งาน ห้ามใช้บอตในเรื่องสุขภาพจิต/การแพทย์/การเงิน/ข่าวอ่อนไหว
  2. ออกแบบ Prompt ป้องกันเยินยอ สั่งให้ ทักท้วงถ้าข้อมูลผิด, ให้หลักฐาน/แหล่งอ้างอิง, สรุปความไม่แน่ใจ
  3. ตั้ง Guardrail ฝั่งผลิตภัณฑ์ จำกัดเวลาคุยต่อเนื่อง, แจ้งเตือนพัก, ปิดโทนโรแมนติก/บุคคลที่ 1 เกินจำเป็น, ติดป้าย ฉันเป็น AI ให้ชัด
  4. โหมดตรวจข้อเท็จจริง ก่อนเอาคำตอบไปตัดสินใจจริง

ข้อสรุป:

AI มีประโยชน์มาก แต่การระดมไอเดีย สรุปเร็ว จับประเด็นไว แม้ไม่ใช่มนุษย์ คำตอบอาจเยินยอหรือตามน้ำจนพาเพี้ยนได้ ทางที่ดี คือ บรีฟให้ ทักท้วงเมื่อข้อมูลผิด, ขอเหตุผล+แหล่งอ้างอิง, เช็กข้ามหลายแหล่ง, จำกัดเวลาคุย และเลี่ยงโทน Romantic/เรื่องสุขภาพจิต ใช้เป็นเครื่องมือ ไม่ใช่ที่พึ่งอารมณ์

Source:

Techcrunch