脅威のAI「クロード・ミュトス」を堀潤さんが解説

意外と知らない社会的な問題について、ジャーナリストの堀潤さんが解説する「堀潤の社会のじかん」。今回のテーマは「クロード・ミュトス」です。

脅威のAI。国を超えて、対応策を講じる必要が

AIの躍進が止まらないなか、アメリカのアンソロピック社は4月に「クロード・ミュトス」を発表しました。「ミュトス」とは、古代ギリシャ語で、「神話」の意味。プログラムの欠陥や弱点を見つけ出す能力が桁違いに高く、専門家でなくても操作できてしまう。悪用されれば、あらゆるシステムにも侵入でき、社会インフラをストップしかねない、脅威のAIなんですね。同社は、クロード・ミュトスを一般公開せず、限られた企業や政府のみがアクセスできるようにすると表明。各国が対応に追われることになりました。

アンソロピック社は、同時に「プロジェクト・グラスウィング」を立ち上げました。インフラや企業のシステムを守ることを目的にしたプロジェクトで、クロード・ミュトス対策を念頭に置いています。クロード・ミュトスは、アマゾンやアップル、グーグル、マイクロソフト、JPモルガンなど、重要なソフトウェアの基盤を作る40以上の組織に限定公開されましたが、5月末には日本政府や大手金融機関もアクセス権を得たと、片山さつき財務・金融担当大臣が発表。6月には日立製作所もこのプロジェクトに参加する契約を締結したと発表しました。

各所の要請を受け、6月2日時点では、15か国以上約150の組織にクロード・ミュトスへのアクセス権が与えられました。ところが6月12日になり、突然トランプ政権が、国家の安全保障に関わるリスクがあるという理由から、最新モデルの「クロード・ミュトス5」と「クロード・フェイブル5」への外国人のアクセスを停止するよう命じたのです。その後、アンソロピック社と米政府の話し合いで、「（クロード・ミュトスは）安全保障上の脅威ではない」とトランプ氏は自身の考えを改めましたが、外国人のアクセス権は、6月22日現在、禁じられたままです。

今現在は、AIの使用は人間が判断していますが、これからAI自身が判断をし自走し始めると、作った人たちも制御できるかわかりません。国家を超えたAIの脅威に対して、各国の政府や企業だけでなく、技術の話を超えて、哲学や社会学など多様な専門家も加えて対処を考える必要があります。

五月女ケイ子解読員から一言