この記事が掲載されている雑誌は、こちらからお読みいただけます。
AIが進化してきた今、頼ることも多くなっていますよね。
今号のニューズウィーク日本版 Newsweek Japanでは最新AI企業アンソロピックについて特集。
気になる内容をピックアップしてみました。
「優秀すぎるAI」ミュトスをめぐって米国防総省と闘う米アンソロピックはAIと人類の未来をどう成業するのか？
最強AI企業アンソロピックは希望か絶望か
むちゃくちゃ皮肉な話ね、と彼女は言いました。
「とにかく安全第一、誰にも悪用はさせないって信念から生まれた会社を、アメリカ政府が安全保障上の重大なリスクと認定し、その会社が請け負っていた業務をライバルの、それも破滅的なリスクを招く恐れありとみて袂（たもと）を分かった企業に与えた。こんな話、絶対にあり得ない」
彼女は筆者の大学の同僚で、AIの若き専門家です。
今年の春先にエジプトで開かれたAIに関する国際会議でのこと。
当時は自社のAIを「誰にも悪用させない」と誓う開発企業アンソロピックと、それを軍事にフル活用したい米国防総省の対立がメディアをにぎわしていました。
アンソロピックは、チャットGPTで知られるオープンAIの元幹部たちが2021年に立ち上げた会社です（7人の共同創設者を含む16人がオープンAI出身）。
もともと非営利団体だったオープンAIの商業化を急ぐ同社の経営姿勢に、彼らは実存的な危機感を抱いていました。
AIは人類の文明を変え得るテクノロジーですが、拙速に営利を追求すれば安全性が軽視され、取り返しのつかないことになる。彼らはそう信じていました。
だからアンソロピックの人たちは、自社製AIシステムの基本アーキテクチャーの根っこに最も厳格な信頼原則を置きました。
彼らはオープンAIが招くであろう危険を見据え、それを防ぐために、もっと安全で「憲法を守るAI」を作ることにしたのです。
「憲法」を学び、しっかり守る
では、アンソロピックのAIが守る「憲法」とはいかなるものか。
それは基本的人権や安全、民主主義の価値観といった大原則を盛り込んだ文書で、同社のAIはこの「憲法AI」を学習し、厳格かつ自律的に守ることになっています（従来のAIは、安全性のチェックを人間による恣意的なフィードバックに頼っていた）。
こうした安全重視の姿勢は、AIを導入する企業からも高く評価されています。
今の時代は、AIで稼ぐ大企業ほどAIの暴走リスクに敏感にならざるを得ません。
だからこそアマゾンやグーグルも、アンソロピックに巨額の資金を投じているのです。
しかも、アンソロピックのAIは性能面でライバル勢を圧倒していました。
筆者が参加したエジプトの会議でも、AI界のリーダーたちはアンソロピックのことを「衝撃と畏敬」の入り交じる小声で語っていたのです。
しかも、それは4月初旬に同社が最先端AIモデルの「クロード・ミュトス」を発表する前のことです。
最新AIモデルのミュトスや、AI憲法など、気になる内容でしたね。続きはぜひ、本誌でご覧ください。
本誌で他にも、最新AI企業「アンソロピック」を特集されています。
＼ あわせて読みたい！AI記事 ／
＼ あわせて読みたい！AI記事 ／
『ニューズウィーク日本版 』を定期購読すると最大43%OFF！
お得な定期購読をお見逃しなく。
この記事が掲載されている雑誌は、こちらからお読みいただけます。
