米オープンAIは、安全対策チームを事実上解散しました。この決定により、AIの安全性をめぐる社内の対立が浮き彫りとなり、主要幹部の退社が続いています。特に退社した元幹部の一人は経営陣を公然と批判しており、この体制変更が高度なAIの安全性に影響を与える可能性があります。
BulletsIn
- オープンAIは安全対策チームを解散した。
- 元幹部が退社し、経営陣を批判した。
- 社内の対立が明らかになった。
- 安全対策チームは「スーパーアラインメントチーム」と呼ばれていた。
- このチームは昨年7月に発足した。
- トップにはイリヤ・サツキバー氏とヤン・ライカ氏が就任した。
- 同社は高度なAIの安全性に注力していた。
- 4年間でコンピューター資源の20%を安全対策に充てる計画だった。
- 強力なAIは人類に重大なリスクをもたらす可能性があるとされた。
- 「アラインメント」はAIに人間の価値観や倫理観を取り込む取り組みを指す。
