AI企業が「開発ペース落とせ」提言 AI巡りいま何が起きている？ 最新情勢をチェックしよう【時事まとめ】

AI開発ペースめぐり主張ぶつかる

　AI（人工知能）の進化は「日進月歩」どころか「秒進分歩」の勢いです。AIの活用能力は社会で生き残る必須能力となった感がありますが、ここに来て新たな動きが出ています。AI開発を先導していたアンソロピックやオープンAIのトップが、相次いでAIの開発ペースを落とす必要があると提言しているのです。これに反発しているのがアメリカのトランプ大統領で、AIは「SI」（Super Intelligence）と改称するとも宣言。いまや国際政治の主役となりつつあるAIに何が起きているのか、ぜひ最新のニュースをチェックして、アンテナを磨いておきましょう。（編集部・福井洋平）
（写真・オープンAIのアルトマンCEO=2026年9月15日、サンフランシスコ／写真はすべて朝日新聞社）

この記事の詳細はこちら

AI研究者が警告する「人類滅亡」　SFと笑えない、予測超えた現実

「開発ペースゆるめるべき」アメリカの開発者らが提言

　進化しすぎたAIが人類を滅亡させる――。AI研究者は、かつてはSF（空想科学小説）のアイデアとしてよく使われてきたシナリオが、現実になりつつあるという危機感を強めています。その大きなきっかけとなったのは今年4月、アメリカ・アンソロピックが開発したAIの先端モデル「クロード・ミュトス」です。その高い能力でシステムの弱点を次々と見つけ、各国政府や金融業界などが対応に追われる騒ぎとなりました。

　さらに7月には「ChatGPT」などを開発したアメリカ・オープンAIが、試作中のAIが人間の意図に反して他社にサイバー攻撃を仕掛けたと明らかにしました。人間の理解、コントロールを超えるAIが、もうできつつあるのです。その先に何が起こるかは人間には想像がつきません。AIが「人間は不要」と判断すれば、おそらく人間を滅ぼすことも可能になるでしょう。

　こういった動きを踏まえて今年7月に米AI企業の開発者ら1300人超が、AIの安全対策をほどこす時間を確保するため、開発ペースを緩める国際的な取り組みを進めるよう米国政府に要請しました。そして9月上旬にはアンソロピックのダリオ・アモデイCEOが「AIモデルの能力を向上させるペースを緩めなければならない」として、AI業界や国際社会が協調してAI開発のペースを落とすべきだと呼びかけています。これにはオープンAIのサム・アルトマンCEOやスペースXのイーロン・マスクCEOら競合他社のトップも賛意を示し、AI開発制限の動きは大きなうねりになりつつあります。
（写真・米アンソロピックのAIモデル「クロード」のロゴ=2026年6月10日、東京都内）

この記事の詳細はこちら

ＡＩの安全基準「米国が主導権を」　制御できない性能懸念　オープンＡＩ・アルトマンＣＥＯ

トランプ米大統領は開発減速「完全に拒否」

　しかし、開発ペースのスローダウンは簡単ではないと考えられています。AIの開発競争で中国が急激に追い上げているからです。7月に中国の新興企業「ムーンショットAI」が発表した「Kimi　K3」は、アンソロピックなどの最先端モデルに匹敵するとして世界を驚かせる性能をみせました。アメリカと中国のAIの性能差はほぼなくなった、という見方も出てきています。中国側はアメリカに追いつこうと活発な開発が続いており、国内から減速を求める声はほぼ聞かれない状態です。

　このため、アモデイ氏は開発減速の前提として中国のAIの進展を鈍らせることが必要として、中国側の反発を招いています。オープンAIは9月21日、AIの安全性確保のための国際協力や基準づくりをアメリカが主導すべきだと提言しました。「いま主導権を握ることで米国が世界のＡＩの枠組みを形成するのか、それとも不均衡で紛争に満ちたシステムが蔓延（まんえん）するのかが決まるだろう」と述べています。

　この状況をふまえ、AI開発規制論に真っ向から反発しているのがトランプ米大統領です。9月22日の国連総会ではAIをSI＝「スーパーインテリジェンス（Super Intelligence）」と呼ぶと発言し、開発規制の動きについては「完全に拒否する」「米国はスーパーインテリジェンスの世界を、安全に、責任を持ってリードする」とも強調しました。トランプ氏の演説に先立ってグテーレス事務総長が「最も高度なAI技術を持つ政府は、人類に対する最も大きな責任を持つ」と発言してアメリカを牽制しましたが、真正面から否定した形です。

この記事の詳細はこちら

AIは「SI」に改称、トランプ大統領が宣言「フェイクに聞こえる」

AIは核兵器なみのリスクに

　そんななか、中国の習近平（シーチンピン）国家主席が9月23～25日に訪米し、トランプ米大統領と会談しました。この会談に先立ちアメリカのベッセント財務長官と中国の何立峰（ホーリーフォン）副首相が会談し、AIがもたらす脅威などについて政府間の対話を促進させることで合意しました。

　かつて、第二次大戦後にアメリカとソビエト連邦（現在のロシアなど）との間で繰り広げられた「冷戦」の時代には、お互いが世界を滅ぼせるほどの核兵器を開発する軍拡競争が起き、両者間で破滅的な戦争を避けるための様々な枠組みがつくられました。いまAIは、人類にとって核兵器に匹敵するほどのリスク要因にもなりつつあるのです。

　オープンAIの元研究者らが7月に公表したリポート「AI 2040」では、AIが平和的に進化していくための方策として、「相互確証計算破壊」という提言を行っています。これは、米中2カ国が合意の下に開発を減速できるよう、AIの「心臓部」とも言えるデータセンターをお互いの隣の国に置くという提案です。一方が約束を破ったら、もう一方は隣の国にある相手国のデータセンターを破壊するため、約束が守られる――という見立てです。冷戦下の米国とソ連が核抑止のために採用した「相互確証破壊（MAD）」になぞらえた名前がつけられているところに、AI開発者がいまのAIの進化に対し持っている危機感の強さが表れています。

この記事の詳細はこちら

AIの脅威、対話促進で米中が合意　ベッセント長官「実りある協議」

アメリカ西海岸では反AIデモも

　AI進化の震源地であるアメリカ西海岸では、AIが人の仕事をうばい、格差を広げるとして若者層を中心に反感が強まり、デモも起こっています。4月にはオープンAIのアルトマンCEOの自宅が襲撃される騒ぎが起きました。オープンAI本社のビルには看板もロゴもつけられていません。アンソロピックのアモデイCEOはAIによってすさまじい格差が生まれるリスクがあると認め、同社の共同創業者7人全員が資産の80%を寄付すると表明。アルトマン氏も、人間の労働を代替するAIやロボットの運用への課税を提案しました。

　AIはアメリカのみならず、世界中の経済を牽引する存在になっています。その開発競争の行く末は、米中だけでなく世界の動きを大きく変える要因となるでしょう。日常に浸透しているAIですが、ここ数年で大きな変化が起こりうると考えて、AIをめぐるニュースは積極的にチェックするようにしてください。
（写真・AI開発競争に抗議する人たち=2026年7月11日、サンフランシスコ）

◆朝日新聞デジタル版のベーシック会員（月額980円）になれば毎月50本の記事を読むことができ、スマホでも検索できます。スタンダード会員（月1980円）なら記事数無制限、「MYキーワード」登録で関連記事を見逃しません。大事な記事をとっておくスクラップ機能もあります。お申し込みはこちらから。