AI開発をリードするアンソロピックが「AI開発を遅らせる選択肢が世界にとって有益となる」旨の提言をした。
AIがAI自体の性能向上を、人の手を借りずに自律的に高められる未来が迫っている。生成AIによるシステムコードの作成も、1年程前には数%だったものが、最新で80%に及ぶ。
「人の意思に背く不具合を解消できなければ、制御できなくなる可能性がある。」
先端AIの「ミュトス」はサイバー攻撃に悪用される懸念から、1度は一般公開を見送り。その後、安全性を確保したとして、ミュトス級AIの一般提供を発表。そして、その直後に今回の提供停止発表。
ここ数年での、凄まじ過ぎる、AI開発のスピード。
【NHKニュース速報 10:51】
米アンソロピック 最新AIモデル
提供停止を発表 米政府の命令受け