米アンソロピック、人類への「壊滅的なリスク」を警告　大型上場を前に

レイチェル・クラン・ビジネス記者、リヴ・マクマーン・テクノロジー記者、カリ・ヘイズ・テクノロジー記者

アメリカの人工知能（AI）開発企業アンソロピックは26日、アメリカでの新規株式公開（IPO）計画の詳細を発表するにあたり、AIが「人類にとって壊滅的または存亡に関わるリスク」をもたらす可能性があると警告した。

アンソロピックの評価額は、今年6月に約1兆8000億ドルの初値で株式公開した米スペースXを上回ると予想されている。

生成AIチャットボット「クロード」を運営するアンソロピックは、発行予定株数や価格帯、上場日についてはまだ公表していない。同社はこの日、今年上半期の売上高は163億ドル（約2兆5700億円）だったものの、純損失は807億ドルを超えたと発表した。

アンソロピックは、ナスダックにティッカーシンボル「ANT」で上場する予定で、AIに特化した企業として初めて株式公開を行う。この上場は、AI技術の将来を占う試金石になると見られている。

同社は上場に先立つ提出書類の中で、政策立案者、規制当局者、研究者、そして自社内部の人間からも、AIシステムが人類にとって重大なリスクをもたらすという懸念が提起されていると明らかにした。

それによると、高度なAIシステムは「適切な安全対策、監視、およびセキュリティー措置を講じて開発、展開、運用されないならば、とりわけシステムが悪用、複製、兵器化された場合、あるいは高度な自律性での運用を許された場合、人類に壊滅的または存亡に関わるリスクをもたらす可能性がある」という。

アンソロピックは5年前、ダリオ・アモデイ最高経営責任者（CEO）や妹ダニエラ・アモデイ氏など7人が共同で設立した。今年6月に株式公開の方針を発表した。

同社にとって最大のライバルの米オープンAIも、すぐに続いた。オープンAIのIPO計画に詳しい関係者によると、オープンAIは来年初頭の上場を見込んでいるという。

しかしその後、両社が開発するAIエージェント（一部自律的に動作するボット）が関わるサイバーセキュリティー侵害や、技術的な侵害が相次いだ。

両社の現従業員や元従業員は、AIツールが引き起すかもしれない将来的な危険から人類を守る能力が欠けた状態のまま、AI技術の開発が進められていると警告した。

さらに、アンソロピックが上場計画を明らかにした26日、故エルヴィス・プレスリーさんの楽曲の権利所有者らは、同社が「クロード」の学習にプレスリーさんの楽曲数百件を使用したとして、同社を提訴した。

「大胆だが常識的」

アンソロピックはこの日発表した文書のなかで、多くの人に有益な方法でAIを開発するという過去の約束を改めて表明した一方で、投資家らに対し、AIの危険性について警告した。

また、上半期に売上高を上回る損失が出たことを明らかにしたが、それについては「一見すると無責任に思えるような」先行投資をしばしば行うからだと説明。「概して、我々は大胆かつ健全な姿勢を目指し、成功実績によって信頼を勝ち取っていく」とした。

そのうえで、自社の成功は最先端AIモデルを開発できるかどうかに大きく左右されるとし、「それができなければ、事業に悪影響を及ぼす可能性がある」と付け加えた。

約90ページにわたる詳細なリスク要因の説明の中で同社は、安全かつ競争力のある方法でAIを開発する能力に対する潜在的な脅威を提示した。

その中でアンソロピックは、自社がクラウドコンピューティングプロバイダーの集団や、既に膨大な需要に直面している台湾の半導体メーカー、そしてアメリカに集中しているデータセンターに依存していると警告した。

また、「AIモデルに関連する害から生じる規制措置」についても警告した。その理由として、AIが子どもや自殺リスクのある個人に使用されることへの懸念、そして自社のシステムによる行為について、どこでどのように責任を問われる可能性があるのかが不確実だという点を挙げた。

一方でアンソロピックはこの申請書類の中で、AI技術そのものが持つ潜在的な利点を称賛し、様々な分野で「人間のあらゆる活動領域に革命を起こす能力を持つ、数百万もの仮想エージェント」を解き放つ可能性を描いた。

「当社は、AIは人類史上最も重要な技術の一つだと信じている」ともアンソロピックは強調。AIは「生物学と医学の進歩の速度を飛躍的に加速させる」だろうと述べ、がんやアルツハイマー病といった病気の治療法を見つける可能性もあるとした。

さらに、生産性を向上させることで「持続的な経済成長の加速」を実現できるとも付け加えた。

「重要な節目」

米投資運用会社レイモンド・ジェイムズ・インヴェストメントの主任マーケット・ストラテジスト、マット・オートン氏は、投資家はアンソロピックの財務状況について急速な成長と急速な損失の両方を予想していたため、26日の発表は意外ではないはずだと話した。

「今回の提出書類から詳細を知ることで、市場の透明性が高まると思う。（アンソロピックの）収益成長の源泉を知る必要があるからだ」と、オートン氏はBBCに述べた。

米アンダーセン・キャピタル・マネジメントの創設者ピーター・アンダーセン氏はロイター通信に対し、アンソロピックの株式上場計画は「AI開発における重要な節目」だと述べた。

また、アンソロピックの上場結果は、投資家がAI開発に資金を投入し続ける意欲があるのかを示す、「かなり的確な指標となるだろう」とも話した。

（英語記事　Anthropic warns of 'catastrophic risk' to humankind ahead of blockbuster share listing）