オープンAI、安全対策チームを解散 | BulletsIn
米オープンAIは、安全対策チームを事実上解散しました。この決定により、AIの安全性をめぐる社内の対立が浮き彫りとなり、主要幹部の退社が続いています。特に退社した元幹部の一人は経営陣を公然と批判しており、この体制変更が高度なAIの安全性に影響を与える可能性があります。 BulletsIn オープンAIは安全対策チームを解散した。 元幹部が退社し、経営陣を批判した。 社内の対立が明らかになった。 安全対策チームは「スーパーアラインメントチーム」と呼ばれていた。 このチームは昨年7月に発足した。 トップにはイリヤ・サツキバー氏とヤン・ライカ氏が就任した。 同社は高度なAIの安全性に注力していた。 4年間でコンピューター資源の20%を安全対策に充てる計画だった。 強力なAIは人類に重大なリスクをもたらす可能性があるとされた。 「アラインメント」はAIに人間の価値観や倫理観を取り込む取り組みを指す。
