เมื่อวันเสาร์ที่ผ่านมา ดาริโอ อโมเดอี ซีอีโอของ Anthropic เรียกร้องให้บริษัทปัญญาประดิษฐ์ชะลอการพัฒนาเทคโนโลยีอันทรงพลังนี้ ท่ามกลางความกังวลที่เพิ่มมากขึ้นเกี่ยวกับความเสี่ยงของระบบคอมพิวเตอร์ "อัจฉริยะขั้นสูง"
คำกล่าวของเขาเกิดขึ้นไม่กี่วันหลังจากที่จาคอบ ค็อกซอน นักวิจัยด้าน AI ที่ลาออกจาก OpenAI เพื่อไปร่วมงานกับ Anthropic ตัดสินใจออกจากวงการ โดยกล่าวหาบริษัททั้งสองแห่งในสหรัฐฯ ว่า "กำลังเสี่ยงชีวิตของเรา" ในการแข่งขันเพื่อพัฒนารูปแบบที่สามารถพัฒนาตนเองได้
“เราต้องชะลอความเร็วในการพัฒนาความสามารถของโมเดล AI ความก้าวหน้าจะยังคงดูรวดเร็ว และเราต้องใช้เวลาที่ได้มาอย่างชาญฉลาด” อโมเดอีกล่าวในโพสต์บนเว็บไซต์ส่วนตัวของเขา
“ปัญญาประดิษฐ์นำมาซึ่งความเสี่ยง และเนื่องจากเป็นเทคโนโลยีที่มีประสิทธิภาพสูงมาก ความเสี่ยงเหล่านี้จึงร้ายแรง”
“การไม่สร้างเทคโนโลยีนี้จะทำให้มนุษยชาติสูญเสียประโยชน์ หรือไม่ก็ทำให้ AI ตกอยู่ในมือของอำนาจเผด็จการ ในขณะที่การสร้างมันเร็วเกินไปก็เป็นเรื่องที่ประมาท เราจึงแสวงหาทางสายกลาง” อโมเดอี ผู้ร่วมก่อตั้ง Anthropic กับน้องสาวของเขา ดาเนียลา ในปี 2021 กล่าว
“แต่ในช่วงไม่กี่เดือนที่ผ่านมา ผมเริ่มเชื่อมั่นว่า การจัดการกับความเสี่ยงอย่างครบถ้วนนั้น จำเป็นต้องใช้ความรอบคอบมากยิ่งขึ้น”