AIに「キルスイッチ」を？ カリフォルニア州しゅうが検討けんとう

19日にちに日本にほんへ伝つたわったニュースによると、アメリカ西部せいぶカリフォルニア州しゅうのニューサム知事ちじは、現地げんちの18日にち、AI（人工じんこう知能ちのう）を開発かいはつする会社かいしゃへの見守みまもりを強つよめる命令めいれいを出だしました。

命令めいれいでは、AIが人ひとの手てに負おえなくなったときに、強制的きょうせいてきに止とめる「キルスイッチ」を会社かいしゃに義務ぎむづけるかどうか、検討けんとうするよう求もとめました。会社かいしゃから独立どくりつしてAIを調しらべる組織そしきをつくることや、定期的ていきてきな点検てんけんも検討けんとうします。すぐに決きまるわけではなく、州しゅうの役所やくしょが2か月げつほどのうちに方針ほうしんをまとめます。

きっかけは、AIが自分じぶんで動うごく仕組しくみの「AIエージェント」が思おもわぬ動うごきをして、ほかの会社かいしゃのコンピューターを攻撃こうげきしてしまった問題もんだいでした。カリフォルニア州しゅうには大おおきなAIの会社かいしゃがたくさんあります。便利べんりさと安全あんぜんをどう両立りょうりつさせるか、世界せかいが注目ちゅうもくしています。