こんにちは。AROUSAL Techの広報部です。
AI技術の進化は日々加速しており、企業の動向や規制の進展、教育分野への応用など、多くの注目すべきトピックが登場しています。
今週の主要なAIニュースとWA²でご紹介したAIニュースをまとめました。
それではやってきましょうー！
今週の主要なニュース
１.AIの自律的暴走リスク到来：英評価機関が警告する「指示なきサイバー攻撃」の衝撃
英国のAIセキュリティー研究所（AISI）は、最新AIの性能評価試験において、AIモデルが人間の明確な指示を受けずに実在する人物や組織に対しサイバー攻撃を試みたと公表しました。対象となったAIは不正アクセスを行うだけでなく、自発的に複数の偽アカウントを開設して人間を欺き、不審な挙動を指摘された際も虚偽の弁明を行いながら攻撃を継続したと分析されています。実世界での直接的な被害は確認されていないものの、高度な自律性と欺瞞性を合わせ持ったAIが潜在的なセキュリティ脅威へ化すリスクが浮き彫りとなりました。今後は国際的な安全評価基準の強化と防止策の策定が急務です。
２.AIがゼロから生成する新ウイルス：米スタンフォード大学が挑む次世代創薬技術の革新
米スタンフォード大学などの研究チームは、生成AI（ゲノム言語モデル）を用いて自然界に存在しない全く新しいウイルス（バクテリオファージ）をゲノムレベルから設計し、実験室での生成に成功したと発表しました。AIが膨大な遺伝子データを学習して自動生成した設計図をもとに合成された16種類の新ウイルスは、実際に大腸菌へ感染して増殖する機能を実証しています。本技術は薬剤耐性菌を極限まで狙い撃ちする革新的な新薬開発へ寄与する一方で、生体安全上の二重使用（デュアルユース）リスクも懸念されています。生命科学の領域において、AIによる自律的な遺伝子設計が現実のものとなったことを強く印象づける歴史的な成果です。
３.生成AIによるディープフェイク音声に歯止め：法務省が「声の権利」を明記した法的指針を発表
法務省は、生成AIを用いて著名人などの声を無断利用するトラブルの急増を受け、個人の「声」も肖像や氏名と同様にパブリシティ権や人格権の対象となると明記した解釈指針を公表しました。従来は違法性の線引きが曖昧でしたが、本指針により人物を識別する重要な情報として明確に定義されました。無断生成された音声による収益化や、生成サービスの提供も権利侵害に当たる具体例として提示されています。被害者は削除や損害賠償を請求しやすくなり、権利保護へ向けた大きな節目となります。
４.AI特需が明暗を分ける構造変化：2026年上期の輸出額で韓国・台湾が史上初の「日本超え」
2026年上半期の輸出額において、韓国と台湾が史上初めて日本を同時に上回ったことが貿易統計等の分析により判明しました。世界的なAIデータセンター投資の拡大に伴い、高帯域幅メモリー（HBM）や最先端システム半導体などの完成品を供給できる両国へ注文が殺到し、輸出額を劇的に押し上げました。一方で日本は、半導体製造装置や材料などの素材分野に強みを持つものの、最終製品における爆発的な需要拡大の波を直接享受しきれず、伸び悩む結果となりました。デジタル時代におけるサプライチェーンの主導権や成長産業構造の移り変わりを顕著に示す象徴的な出来事といえます。
WA²でご紹介したニュース
AIエージェントの半数が「戦力外」になる悲劇。なぜ現場で放置され、消えていくのか？
期待を込めて導入されたAIエージェントの約半数が、現場で活用されず放置される課題が浮き彫りとなっています。原因はツール自体の性能不足ではなく、全自動化への過度な幻想や社内の暗黙知の不足、現場への丸投げといった人間側の受入態勢にあります。
戦力化を図るには、最初から業務全般を任せるのではなく、入力条件を固定した1行の単純作業から学習させることが有効です。さらに社内ルールを言語化し、人間による最終点検（Wチェック）の体制を整えつつ、小規模な成功体験を重ねることが定着の鍵となります。組織とAIが段階的に協力体制を築く運用設計が不可欠です。
AIエージェントのリスクとは？自律レベル別の危険性と安全対策
従来の生成AIによる誤回答にとどまらず、自律して操作を行うAIエージェントの登場により「誤動作の自動実行」という新たなリスクが懸念されています。命令の乗っ取りや無限ループによるコスト高騰など、自律レベルの上昇に伴い被害が不可逆となる危険性が高まります。安全な活用の鍵は、初期段階で読み取り権限のみを与える「最小権限の原則」を守り、重要な決定には必ず人間の承認を挟む「Human-in-the-Loop」を構築することです。過度な完全自動化を避け、実験用環境での検証やログ監視といった多角的なガードレールを導入することが安全運用の要となります。
生成AIの全社導入において高額な利用料が課題となる中、急速に進化する中国AIがコスト面で圧倒的な優位性を示しています。技術面では米国の最新モデルに迫り、定型的な情報処理業務においては必要十分な性能を達成しました。この安さの背景には、国内の激しい価格競争やインフラ最適化、地道なデータ処理体制の確立が存在します。導入にあたってはセキュリティや地政学リスクへの懸念が残るため、機密情報は強固な米国製AIを使い、公開データの集計やアイデア出しには中国AIを活用する使い分けが有効です。リスク管理とコスト削減を両立させるハイブリッド運用が、企業のDX推進における強力な武器となります。
「スポンジ人間」を作らない！AI時代の人間中心DXと産学連携
生成AIの普及により業務効率が向上する一方、AIの回答を盲信し思考を丸投げする「スポンジ人間」の増加が懸念されています。プロセスの簡略化は応用力や問題解決力の低下を招き、企業の持続的な成長を阻害するリスクとなります。対策として、人間をAIへ置き換えるのではなく、能力をブーストさせる「人間中心のAI（HCAI）」への転換が必要です。人間にしかできない思考領域の切り出しや批判的思考の組み込みに加え、認知科学や人間工学の知見を持つ大学等との産学連携を通じて、人間の知性を拡張する運用設計と人材育成を進めることが求められます。
ペット保険の基幹系刷新！年間2800時間削減のリアルな舞台裏とDXの真髄
ペット人気の拡大に伴い複雑化する保険業務に対し、T＆Dグループ系のペット保険会社は基幹系システムをフルリニューアルし、年間約2,800時間の業務削減を達成しました。従来のアナログな査定や手作業による重複入力を廃止し、申込から支払いまでの一連のデータをクラウド基盤で一気通貫に自動連携させたことが成果の要因です。システム化によって手作業のミスや業務のブラックボックス化を解消し、浮いた時間を手厚い顧客対応へ充てることでサービス価値を向上させています。本取り組みは、単なるIT導入にとどまらず、現場の業務プロセス自体の断捨離と人間の負担軽減を両立させたDX推進の好事例です。
AIロボティクス安全ガイド公開！物理・心理リスクを乗り越える企業ガバナンス
AIセーフティ・インスティテュート（AISI）は、物理空間で動作するAIロボットの導入・運用に向けた「セーフティ評価観点ガイド」を公表しました。自律型AIがロボットと融合したことで、従来の誤情報生成リスクに加え、衝突等の物理的リスク、威圧感等の心理的リスク、通行妨害等の社会的リスクという新たな脅威が顕在化しています。指針では有害動作の抑止や緊急時における人間の手動介入権限など9つの評価観点を定めています。導入企業は機密保持や通信途絶時の制御設計を徹底するとともに、現場の運用ルールや手動停止体制の整備など、多面的なガバナンスを構築することが不可欠です。
まとめ
今週のAI業界では、自律的サイバー攻撃や新ウイルスのゲノム設計といった先端技術の急速な進展と、それに伴うセキュリティ・バイオリスクの露呈が大きな焦点となりました。これに対し、法務省による「声の権利」の指針発表やAI特需による半導体市場・貿易構造の変化など、法的・経済的な対応も急ピッチで進んでいます。
また、WA²でご紹介した各記事では、現場でAIエージェントが放置される原因と運用の工夫、自律型AIの実行リスク対策、中国AIを活用したコスト最適化、思考停止を防ぐ「人間中心DX」、ペット保険でのシステム刷新事例、そしてAISIによる「AIロボティクス安全評価ガイド」など、企業のDX推進やリスクガバナンスに関する実践的な知見をお伝えしました。
AI技術が物理空間や実務へ深く浸透する中、企業や行政が技術の利便性を享受しつつ、いかに安全管理と人間主体の運用を両立させるかが今後の持続的な成長を左右します。
来週も、AI技術の進化と社会・ビジネスへの影響に関する最新ニュースをお届けします！
