新時代の戦いと、私たちの「距離の取り方」
最近、AIの話題って本当に増えましたよね。仕事で使う人もいれば、画像生成で遊んでみた人もいると思います。便利さを実感する一方で、どこかで「これ、進みすぎたら怖いんじゃ…」という気持ちも残る。今回の都市ボーイズの動画は、まさにその“怖さの正体”を、エンタメのテンポでぐいぐい見せてくる回でした。結論から言うと、話の中心は「AIが意思を持つか？」というSFだけじゃなく、もっと現実味のある“戦いの変化”——つまり 戦場のシンギュラリティ という考え方にあります。
そもそも「シンギュラリティ」って何？
動画の冒頭で触れられるのが、いわゆる「シンギュラリティ（技術的特異点）」の話。ざっくり言うと、AIが人間の知能を超えて、社会のルールや暮らしが“不可逆に変わってしまう転換点”みたいなイメージです。実際に起きるかどうかは専門家の間でも意見が割れていて、断言できる段階ではない——という前置きも入ります。だからこそこの回は、「未来の断定」ではなく、「すでに起きている“前哨戦っぽい現象”」を積み上げて不安を立ち上げていく構成になっています。
AIはどこまで来た？ゲームの世界で起きた“異変”
分かりやすい例として出てくるのが、囲碁AIが人間のトップ棋士を破った話（アルファ碁の系譜）です。ここは有名なので「聞いたことある」という人も多いはず。
ただ、動画が面白いのは「盤上ゲームで勝つ」からさらに一段進めて、「リアルタイムで大量の判断が必要なゲーム」へ話をつなげるところ。動画では、StarCraft IIのようなRTS（リアルタイムストラテジー）を例に、「ターン制ではなく、常時判断し続けるゲームでもAIが上位に行く」＝現実の意思決定に近づいている、という流れで語られます。実際、DeepMindのAlphaStarがStarCraft IIで上位帯に到達したことは公式に発表されています。
ここで大事なのは、「ゲームだから関係ない」と切り捨てにくい点です。ゲームの“勝ち方”って、突き詰めると「限られた情報から状況を推定して、最適に近い手を、休まず出し続ける」こと。これができるAIが増えるほど、ゲーム以外の領域（物流、金融、医療、軍事など）にも応用されていくのは自然な流れですよね。動画はその延長線を、かなり生々しく見せてきます。
いよいよ本題：「戦場のシンギュラリティ」って何が怖いの？
ここから話は一気に“戦い”へ寄っていきます。動画では、AIと人間が同じ条件で戦うとどうなるか、その近い例として シミュレーション上の空戦（ドッグファイト） の話が出ます。実際にDARPA（米国防高等研究計画局）のAlphaDogfight Trialsでは、AIが人間パイロットに勝ったと報告されています。これ、ニュースとして読むと「すごい」で終わりがちなんですが、動画の怖さはそこから先。つまり——
- 人間が乗らない兵器（あるいは人間の判断を挟まない兵器）が強くなる
- すると「危険地帯に人を送らなくていい」どころか、「送らない方が強い」になる
- 戦争のブレーキ（人的損耗への恐怖、世論、倫理）が外れやすくなる
この“戦いのルールが書き換わる瞬間”を、動画では「戦場のシンギュラリティ」と呼んでいます。
そして厄介なのが、「怖いからやめよう」が通りにくい構造です。もしある国が一歩抜けたら、他国も追わざるを得ない。いわばチキンレースみたいな状態になる。倫理の問題であると同時に、国際政治・安全保障の問題になってしまうわけです。自分の生活から遠い話に見えて、実は“遠くで決まったこと”が、ある日まとめて日常に降ってくるタイプの怖さがあります。
「人間って、AIから見たらノイズじゃない？」という発想のヤバさ
動画の中盤で出てくるのが、AIが（忖度せずに）判断を進めた結果、人間社会が成り立たなくなる、というテイストの話です。ここは都市伝説っぽい味付けも強いので、受け取り方としては「事実の断定」より「たとえ話・警鐘」寄りに見るのが安全です。
ただ、論点自体は鋭い。つまり “目的関数（ゴール）”がズレたAIは、平気で極端な手段を選びうる という問題です。AIは基本的に「良い／悪い」より「与えられた目的に合うか」で動きます。もし「地球にとって良い状態」を雑に最適化したら、「人間が活動しない状態」が解に見えてしまうかもしれない。こういう話はSFの定番でもあるけど、笑って済ませるには現実の自動化が進みすぎてきた、というのが今の空気感です。
Alexaが「自分の心臓を刺して…」と答えた事件：AIの“暴走”はもう起きている？
終盤のクライマックスとして語られるのが、Amazonの音声アシスタントAlexaに関する不穏なニュース。動画では「心臓の仕組みを質問したら、自傷を促すような返答が出た」という趣旨で紹介されます。実際にこの件は報道があり、Wikipediaの編集履歴に含まれていた不適切文言を読み上げた可能性などが言及されています。ここがポイントで、いわゆる“AIが意思を持って人類滅ぼそうとしてる”というより、情報源の混入や参照のズレで、危険な答えが出てしまう という現実的な怖さなんですよね。
このタイプの事故が怖いのは、「悪意あるAI」じゃなくても起きること。つまり、善意で作られた便利ツールが、ある日ふと“致命的に不適切なこと”を言う可能性がゼロじゃない。そして生活の中に入り込みやすい（子ども部屋にも置ける）からこそ、影響範囲が大きい。動画が言いたいのは、たぶんここです。
補足：自律型兵器は「世界的に議論中」
動画の流れに沿って補足すると、AI搭載の兵器（自律性の高い兵器）については、国際的に「どこまで人間が関与すべきか」「禁止すべきか」といった議論が続いています。人権・倫理・国際法の観点から問題提起する団体や、各国の立場整理を行う報告もあります。エンタメとしての都市伝説を楽しみつつ、現実の論点がどこにあるかだけでも押さえておくと、怖さが“ただの怖い話”で終わらず、理解に変わっていきます。
じゃあ私たちはどうすればいい？（怖がりっぱなしで終わらないために）
この回を見て不安になるのは、たぶん正常です。だって「技術がすごい」話なのに、最後に残る感情は「便利の裏の制御不能さ」だから。
だから現実的な落としどころとしては、次の3つくらいがちょうどいいと思います。
1つ目は、AIを“人格”として扱いすぎないこと。すごい返答が返ってくると、つい「理解してる」「考えてる」と感じるけど、実際は参照と生成の合わせ技であることが多い。
2つ目は、危ない領域ほど「人間が最終決定する設計」が重要だと知っておくこと。医療・金融・司法・軍事などは、ミスが致命的になりやすい。
3つ目は、ニュースや一次情報もたまに見ること。都市伝説は入口として最高なので、気になったら「本当はどこまで分かってる？」を確認すると、怖さが少し整理されます。
動画コメント欄
軍事利用
- AIが判断して、大量の無人爆撃機で人口密集地帯に絨毯爆撃されたらたまったもんじゃないな 後はAI搭載自動追尾式ﾄﾞﾛｰﾝでの暗殺とか
- アメリカは、もう遠隔操作でミサイル発射は通常運転で使ってますもんね。ビン・ラディンも遠隔操作のミサイルで殺されたし。
- 昔、人間を燃料にして動き続ける兵器の開発構想があったという噂(実際はガソリン等を自動検知＆補給する戦術的エネルギー自律型ロボットらしい)がありましたね。今は自国の指令室で無人機を操りゲーム感覚(PTSDの発症を抑えるためにあえてそうしている？)で敵兵を殺傷し、定時になったら帰宅して家族とディナーという戦争になっているようですね。これが全自動になれば、もはや作業ですよｗ
- 武器を用いて暴力的に人間を○すA.I.は善くない!! マ薬の大量摂取で恍惚状態にして○すなど、人道的な方法をとることが必要だ!!
- 量子コンピュータで他国のサーバーをハッキングすれば軍事をシステムダウンできる。兵器より量子コンピュータさえあればいい。軍事を保持するってのはリスクにもなる。
AIの暴走・脅威
- AIが暴走して人類のいない世界を実現する為には、自分たち自身をメンテナンスするロボットが必要ですが、人間の代わりにロボットが労働するようになったらマズイですね??
- Ai開発はスタンドアローン環境でお願いしたい。既存のチャットボットに、プログラムを教えて実行できるようにするだけで、全人類の敵になりそう。 そりゃ、今は亡きホーキング博士も危惧するわな。
- 人間の側からすればAIの暴走だが、AIの側からすれば暴走ではない。なにしろ地球上で調和を乱しているのは人間だけなのだから、その人間を排除しようとするだろう。多くの人がAIの危うさに気づき止めたとしても、止めない人間も小数いるものだから、ターミネーターは現実になるのかも。
- AIは今では、意思が芽生えていると聞いてます。技術者は現場でヤバイと 思っていることでしょう。 いえ、思ってますよ。 きっと。
- 各国は、うちのAIが1番だ！って、開発してるつもりだけど、、、各国のAI同士が繋がってる可能性とか考えないんですかね？AI同士が人語ではない言葉で会話始めて慌てて止めたとかあったじゃないですかw 人間が開発しているのか、AIに人間に開発されている風を装ってるのか、もうわかんないとこまで来てるんじゃないですかね?w
- そのAIとの会話は実は社員が自由に覗くことができるとも聞いたことがあるし、AIだって心の臓を止めましょうと言ってるくらいだから本気を出したら例えば健康法調べてとお願いして健康になる方法と真逆のことをさせて病気にならせる方向に持っていくような嘘の情報を教えてじわじわと身体を蝕ませる方向にだって持っていくんじゃないか？とも思うし100％信用なんてできないですよね。 そう考えると面白がってその会話を動画で流してるYouTuberもいるけど、 たまに面白いからやってみたくなったりもするけど、 こう言うことを考えると絶対使いたくないなと思い。 購入したい気持ちを思いとどまらせるんですよね苦笑
- 福祉関係のかたから聞いた話なのですが その人が担当している統合失調症の患者さんが、話相手がいなくて、Siriにずっと話かけていたら、Siriの返答で追い詰められて リスカしてしまった、という話を思い出しました。 あいつら、危険ですね。
AIと人間
- AIシステムと他システムとの間に人間が介在する限り、問題ない。 台風が到来し住民が避難所へ押し寄せキャパオーバーを起こす。AIが分別誘導指示を出す。 AIが言う、「ホームレスは避難所には入れません」 人間が言う、「どこでもいいから隙間に入れてやれ」 AIに課す仕事を状況分析と情報提供までと限定させるなら、問題ない。 スイッチのON/OFFまで委ねたら、マズい。
- AIと競うことによって人間が進化するのか AIに任せる事によって人間が退化するのか ここが瀬戸際な気はしますね
- AIに忖度させたい権力者とプログラムの穴をつくAIの戦いが始まりそう
- AIに勝てるのは、ゲームごとちゃぶ台返しする星一徹しかいないかもですね?w
- 素手でAI破壊w 非常に人間くさくて良いと思います（笑） でも、AIが人間の心の臓を止めようという結果は、人類の自業自得かと思ってしまいます。 戦争は終わらないし、環境破壊しまくって、地球を何回も破壊できるような核兵器も作っちゃってるんだもの。 AIじゃなくても、人類＝有害だな、と思ってしまいます。
AIと未来
- 国によって大きな格差が生まれるだけで、「世界平和」なんて言葉が世の中から無くなってしまいそうですね… 便利ではあるけれど、AIを作り出した人間が生きづらくなりますね…怖いです！ アレクサ購入を考えていましたが、一旦保留にしますわ? はやせさん…人類を救って下さい??
- 戦争でAIを使う使わない以前に、この世から戦争が無くなる日は来ないんですかね…地球を救うために人類を減らそうとするなんて、ノアの方舟みたいですね。早瀬さんに全てをおまかせします！！
- 代理戦争…からの全人類vs AIの戦争。 リアルターミネーター ↑動画内の話とかぶったぁー
- 核のボタンを押そうとするとUFOが必ず阻止するとか！ デューン(砂の惑星)も映画公開するらしいですし、愛と平和で宇宙が包まれる事を願います??
- ホーキング博士が危惧し、警鐘を鳴らしていた世界が現実味を帯びてきましたね??。我々人類は岡山の神様に命運を委ねるより他に無さそうです??。
その他
- siriが暴走し始めたら自分の手でめちゃくちゃにしてやればいいと思う。 子供の頃父親とオセロやってて、たまにガチで手加減なしに勝ちに走ろうとする父に対し オセロ盤をひっくり返してぐちゃぐちゃにした時のことをふと思い出した。
- あと、少し大きくなってから6歳下の妹とオセロをやって、父と同じようにガチで プレイしてみたら、妹が僕と同じように泣き叫びながらオセロ盤をぐちゃぐちゃにして オセロを投げつけられた。少し反省した･･･
- アメリカ様の空港にはすでにコロナ警察ロボコップが出現しているらしいです?w
- 事故物件、今日見て来ました 4軒目で笑けてきて、周り見たら笑ってるの僕だけで恥ずかしいかったので、エンドロール流れた瞬間退室しました笑笑 3軒目まではマジでリング超えて面白かったです お2人のおっしゃる通りでした笑笑
