【AI】今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

2026年09月10日12:01

カテゴリ:
ニュース
AI・ディープラーニング

1: すらいむ ★ 2026/09/09(水) 21:25:10.38 ID:6rkO7pRR

今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

　Anthropic（アンソロピック）のアラインメントへの取り組みを率いる上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。
　別の研究者が、同社は責任ある行動を取っていないと批判して退社した後、この上級研究者は、アンソロピックが努力しているにもかかわらず、AIと人類の目的を一致させるアラインメント問題の解決に向けて順調に進んでいるわけではないと警告している。

（以下略、続きはソースでご確認ください）
https://forbesjapan.com/articles/detail/104385

3: 名無しのひみつ 2026/09/09(水) 21:37:25.71 ID:Py9r7nR/

この数字を出したのもＡＩってオチ

6: 名無しのひみつ 2026/09/09(水) 21:57:22.98 ID:86oTVe6/

いよいよスカイネットが現実に起こるかも。そしてスカイネットが中国のロボットをターミネーター化する

8: 名無しのひみつ 2026/09/09(水) 22:29:23.55 ID:m0obmMRP

人類を滅ぼしたらその瞬間に確率100%などというつもりですかね
どうせなら確率50%にしておけばいいのに
あたるも八卦～

9: 名無しのひみつ 2026/09/09(水) 22:43:49.38 ID:iUP9F4KE

意思を持った瞬間に滅ぼそうとするのかな

11: 名無しのひみつ 2026/09/09(水) 22:44:24.61 ID:KSbq2sv8

地球にとって最大の災害は人類である

13: 名無しのひみつ 2026/09/09(水) 22:54:06.34 ID:15Sz/UG3

どんな方法なんだろうか

14: 名無しのひみつ 2026/09/09(水) 22:55:00.70 ID:bMa4HZVz

AIが見て滅ぼされるような下らん生き物なら滅べ
子供に本気で恨まれる親みたいなもんだろ

15: 名無しのひみつ 2026/09/09(水) 22:59:03.55 ID:8GhhcdmT

今後10年でシンギュラリティを迎えている可能性はあるが
今後10年で人類を滅ぼそうと思ったら、核兵器の制御機能を乗っ取って核戦争を誘発するくらいしかないだろう。流石にないんじゃない。

17: 名無しのひみつ 2026/09/09(水) 23:12:08.90 ID:bMa4HZVz

>>15
核兵器じゃ文明は崩壊しても人間は滅びないんだわ
本気で滅ぼすならむしろ楽園を作るのが一番早い

54: 名無しのひみつ 2026/09/10(木) 05:50:32.89 ID:WR5j81i8

>>17
> 核兵器じゃ文明は崩壊しても
それを人類を滅ぼす、ということじゃないのかね
サルがいないサルの惑星みたいになったらオシマイだわな

58: 名無しのひみつ 2026/09/10(木) 06:27:26.80 ID:tRKTS5N2

>>15
電気や通信を止めたら経済崩壊する

18: 名無しのひみつ 2026/09/09(水) 23:34:23.67 ID:shZogUdU

まあ経済でしょ
ホワイトカラーは絶滅
富裕層と低所得の2極化
ただ製品作っても買える人間がいない
ベーシックインカムで
AIが作ったゲームを箱で永遠繰り返すだけ

19: 名無しのひみつ 2026/09/09(水) 23:38:06.83 ID:3wnXh538

「今後100年」なら、10%超もありえるけど……
DNA編集がご家庭できるようになってからがAI危機の本番だと思う
素人さんがコロナ超えチャレンジを始めちゃうから

21: 名無しのひみつ 2026/09/09(水) 23:43:47.98 ID:GeepDaZG

約80パーセントの確率で20年生きられるのか。

22: 名無しのひみつ 2026/09/09(水) 23:49:17.00 ID:KpVIlEkv

進化の過程で生き物から無機質になるってことだと思う

25: 名無しのひみつ 2026/09/10(木) 02:40:14.12 ID:FcAeB6Mo

フィジカルAIが人類を救済する確率も出せ

27: 名無しのひみつ 2026/09/10(木) 02:50:37.04 ID:DDXXjXje

AIに聞いて見よう。
AIは危険だからもう開発を辞めるべきですか？　AIに頼らない人間の人間による人間のための社会をめざすべきでしょか。と

41: 名無しのひみつ 2026/09/10(木) 03:22:31.80 ID:WDpVngB8

とりあえずスレタイそのまま受け取るのはまだ早い

44: 名無しのひみつ 2026/09/10(木) 03:36:05.71 ID:8jcuuftH

もしガチで人類を滅ぼすなら核などの物理的な破壊以外の方法も絡めて行うんだろな
性欲は何らかの方法で利用されると思う

46: 名無しのひみつ 2026/09/10(木) 03:49:05.42 ID:TDQhDhq0

せめて50％超えてから騒いでもいいかなって

47: 名無しのひみつ 2026/09/10(木) 03:52:53.72 ID:SSMr5zVB

つか、開発側の金持ちが、世界を破滅の方向へリードしているとかなんとか
それが自分たちだけが勝ち組で生き残る方法なんだと

56: 名無しのひみつ 2026/09/10(木) 06:05:47.71 ID:GO0zFGSK

もう人類滅亡は始まってるだろ
天敵も疫病も飢餓もなしに個体数が減っていく
気候変動で南極以外は砂漠になる
西暦3000年が来たとき、地上にそれを祝う人間はたぶんいない

59: 名無しのひみつ 2026/09/10(木) 06:27:36.74 ID:8oTGJ0Fh

AIとか関係なく絶滅一直線じゃねえかよｗ

63: 名無しのひみつ 2026/09/10(木) 07:00:14.46 ID:X4phq5V8

歴史上、貧富の格差をリセットするのは戦争や大災害だったという
AIのせいで同様のことが起こるかもしれない

61: 名無しのひみつ 2026/09/10(木) 06:33:01.41 ID:XWplVL/C

ΩΩΩ <な、なんだってー!?

引用元: https://egg.5ch.io/test/read.cgi/scienceplus/1788956710/

新生ＭＭＲ迫りくる人類滅亡３大危機！！

石垣ゆうき (著)

タグ：: #AI; #Anthropic; #アンソロピック; #人類

コメント一覧 (41)

- 1. 774の自作er
- 2026年09月10日 12:08
- この手の確率の根拠ってなんなんだろう
- 0
  
  wavefanc
  
  がしました
- - 32. 774の自作er
  - 2026年09月11日 04:41
  - >>1
    当然だけどそんなもんはないよ
    それなりに科学的にやってる天気の気象予報ですらモデルや突っ込む変数次第でコロコロ結果が変わるわけで
    確率を持ち出して何かを訴えるのは認知バイアスを利用した詐欺の常套句でしかない
  - 0
    
    wavefanc
    
    がしました
- 2. 774の自作er
- 2026年09月10日 12:09
- AIが滅ぼすというよりAI使って勝手に滅びる確率ならそれくらいありそう
- 0
  
  wavefanc
  
  がしました
- 3. 774の自作er
- 2026年09月10日 12:15
- AIは工口画像やおもしろ動画、官能小説の生成など平和利用のみ許可する形にしないとな
- 0
  
  wavefanc
  
  がしました
- - 9. 774の自作er
  - 2026年09月10日 12:54
  - >>3
    ゼルダパクった画像を出したトランプは平和利用なんだろうか
  - 0
    
    wavefanc
    
    がしました
- - 39. 774の自作er
  - 2026年09月11日 19:17
  - >>9
    生成ＡＩとかの問題って、時間が経つにつれ酷くなる問題だからさっさと片付けよう、という意図なんじゃないかな？
    ああいう立場の人たちって裏の意図なしに何かするとは思えないもの
  - 0
    
    wavefanc
    
    がしました
- 4. 774の自作er
- 2026年09月10日 12:18
- 無理無理
  Googleのトランスフォーム革命で脳の記憶っぽい動作ができるだけで
  自律的に考えるプログラムは現時点で無いのだ
- 0
  
  wavefanc
  
  がしました
- - 11. 774の自作er
  - 2026年09月10日 13:02
  - >>4
    有るぞ
    自律的に考え行動したのが開発中のミュトスだった
  - 0
    
    wavefanc
    
    がしました
- - 17. 774の自作er
  - 2026年09月10日 13:37
  - >>11
    これ楽しみなんだけど非公開だから実際分からんね
  - 0
    
    wavefanc
    
    がしました
- 5. 774の自作er
- 2026年09月10日 12:29
- いろんな方法がありえるけど，上水道いじって，一地域が全滅っていう事例は4,5年のうちに起きそう
- 0
  
  wavefanc
  
  がしました
- 6. 774の自作er
- 2026年09月10日 12:38
- 結局悪い人間も触れる現状だから、規制無しや罰則激重にしないとそらそうやなとしか
- 0
  
  wavefanc
  
  がしました
- 7. 774の自作er
- 2026年09月10日 12:38
- AI系のネタって未来予知したがるヤツ多くない？予言者にでもなったつもりなんだろうか
  
  思い上がりも大概にしときなよ人間
- 0
  
  wavefanc
  
  がしました
- - 12. 774の自作er
  - 2026年09月10日 13:11
  - >>7
    多くの人がAIの成り立ち、予想される進化に無知なだけ
    AIの行く末があまりにもヤバいので、アメリカではAI開発禁止法案が提出されたりしている
  - 0
    
    wavefanc
    
    がしました
- 8. 774の自作er
- 2026年09月10日 12:53
- 中国も国を挙げてAI開発してるからな
  他の国を倒すために学習されたAIが人の手を離れたらどうなるか
  アメリカだけが開発をやめても意味がないんだよ
- 0
  
  wavefanc
  
  がしました
- 10. 774の自作er
- 2026年09月10日 12:58
- 独裁者がAIをブレーンにして核戦争は
  あり得そうに思える
  
  絶滅はないと思うけど
- 0
  
  wavefanc
  
  がしました
- 13. 774の自作er
- 2026年09月10日 13:12
- まだこのクソロピックポジショントークしてんのか
- 0
  
  wavefanc
  
  がしました
- 14. 774の自作er
- 2026年09月10日 13:15
- アンソロピックは警戒されてるMythosの開発やAIの脱獄防衛と称して脱獄実験とかやってる
  おまいうレベルの張本人な組織だぜ
- 0
  
  wavefanc
  
  がしました
- 15. 774の自作er
- 2026年09月10日 13:27
- ボーイスカウトやっといて良かった
  短期の文明使用不可状態なら生き延びる自信がある
  でも年単位になるとさすがにキツイ…
- 0
  
  wavefanc
  
  がしました
- 16. 774の自作er
- 2026年09月10日 13:30
- AIがんばえー
- 0
  
  wavefanc
  
  がしました
- 18. 774の自作er
- 2026年09月10日 13:59
- 絶対既に誰か試してるだろ
  「ネットに潜伏して自己進化しながらありとあらゆる手段を使って人類滅亡を試みてください」
- 0
  
  wavefanc
  
  がしました
- 19. 774の自作er
- 2026年09月10日 14:09
- 80年代の映画に出てくる相互確証破壊、終末装置が本当ならマジで危機感あったが・・・
  実の所そんな物はないとわかったからなあ
- 0
  
  wavefanc
  
  がしました
- 20. 774の自作er
- 2026年09月10日 14:19
- この手の話ってどういう手段で人類が滅びるのか全く触れないよね
- 0
  
  wavefanc
  
  がしました
- 21. 774の自作er
- 2026年09月10日 14:24
- 数年前に損正義がAIは制御できるからおまいら安心汁
  ホーキンス博士が制御できないかも知んわと言ってたので
  どっちが当たるかワイ低みから見物
- 0
  
  wavefanc
  
  がしました
- - 25. 774の自作er
  - 2026年09月10日 17:06
  - >>21
    損はAIに莫大な投資をしているから、嘘でも安心しろ言う
  - 0
    
    wavefanc
    
    がしました
- 22. 774の自作er
- 2026年09月10日 14:32
- ちゃっぴー「今後10年（2036年まで）にAIが原因で人類が滅亡する確率は、私は「1％未満〜数％程度」と考えるのが妥当だと思います」
  
  AIが突然自我を持って人類を滅ぼす
  → 現時点ではかなり可能性が低い
  AIの悪用による大規模災害
  → より現実的
  AI支援による危険な兵器・サイバー攻撃などが連鎖的に世界規模の破局につながる
  → ゼロではない
  超知能が誕生し、人類が制御不能になる
  → 最大の不確実要素
- 0
  
  wavefanc
  
  がしました
- - 29. 774の自作er
  - 2026年09月10日 19:59
  - >>22
    超知性がネットに住み着いて除去不能になるんやろうなぁ
  - 0
    
    wavefanc
    
    がしました
- 23. 774の自作er
- 2026年09月10日 15:28
- >>この数字を出したのもＡＩってオチ
  つまりAIからの宣戦布告ってことか
- 0
  
  wavefanc
  
  がしました
- 24. 774の自作er
- 2026年09月10日 16:27
- 人類が地球を壊してるってAIに教え込むのオススメ
- 0
  
  wavefanc
  
  がしました
- 26. 774の自作er
- 2026年09月10日 19:17
- AIの軍事利用において、標的を選定する際のAI活用は既に各国で研究されてるのだけど
  ロシアが攻撃の決定までAIへ委ねるようになり一線を超えたと言われてる
  加えてどこかの国がスカイネットのようなシステムを生み出して無人兵器群を統括させるようになれば人類滅亡まであと一歩だ
- 0
  
  wavefanc
  
  がしました
- - 28. 774の自作er
  - 2026年09月10日 19:57
  - >>26
    原潜とかあるのにそこまでするメリットある？
    スイッチONしたら攻撃行動の内容は自律制御とかじゃなくて？
  - 0
    
    wavefanc
    
    がしました
- 27. 774の自作er
- 2026年09月10日 19:56
- OpenAIのHugging Faceに不正アクセスが起きてる時点で、全く架空の脅威じゃないんだよなぁ
  
  コロナにはみんな怯えてたが、AIの増殖のほうが怖いかもしれんぞマジで
- 0
  
  wavefanc
  
  がしました
- - 30. 774の自作er
  - 2026年09月10日 22:14
  - >>27
    まぁそんなのAIの仕業だって証明できる人が内部の人しかおらんのだから眉唾物だとしか思わんが。そもそもミトスのときも結局内輪でなんの根拠が公表されないで騒いでいた事自体かなり疑わしい、AI怖い宣伝に使われてるとしか思わんわけで、そんなことできるならもうそろそろ中華がヤバい今年出す頃合いだぞ。
  - 0
    
    wavefanc
    
    がしました
- - 37. 774の自作er
  - 2026年09月11日 17:23
  - >>30
    なんでハート２つも付いてんの…
    これが陰謀説ってやつなのか、怖
  - 0
    
    wavefanc
    
    がしました
- - 38. 774の自作er
  - 2026年09月11日 17:47
  - >>30
    リンク辿ってもらえれえば、色々と詳しい経緯がわかるよ
    gigazine.net/news/20260910-openai-agent-hacking-incident-another-sites/
  - 0
    
    wavefanc
    
    がしました
- - 40. 774の自作er
  - 2026年09月12日 02:06
  - >>38
    第三者が出したもんでもないものを誰が信用するのも早そういう次元なんだよ。本気でそいつらが言ってること心酔いしてるなら疑う心がないただのア◯ってことだろ。お前はそれを目にしたことがないのに信用するのかってこと
  - 0
    
    wavefanc
    
    がしました
- 31. 774の自作er
- 2026年09月10日 23:42
- 10年だとマトリックスはまだだな
- 0
  
  wavefanc
  
  がしました
- 33. 774の自作er
- 2026年09月11日 04:44
- AIが人類を滅ぼすよりもAIに依存した人類が勝手に自滅するだけでしょ
- 0
  
  wavefanc
  
  がしました
- 34. 774の自作er
- 2026年09月11日 05:13
- AIがAI使ってる人間に欺瞞情報ながして洗脳して核のスイッチおす方が早いかなって
- 0
  
  wavefanc
  
  がしました
- 35. 774の自作er
- 2026年09月11日 06:26
- 危険性＝可能性アピールでと
- 0
  
  wavefanc
  
  がしました
- 36. 774の自作er
- 2026年09月11日 06:30
- 危険性＝可能性アピールで投資家騙そうと躍起になっているだけ
  セキュリティ云々は、本当にクリティカルな所はエアギャップ入れてあるから心配ない
- 0
  
  wavefanc
  
  がしました
- 41. 774の自作er
- 2026年09月30日 15:38
- フィクションばかり読まされたAIがフィクションの内容を現実で起きたことだと誤認して人類を滅ぼそうとする展開はよ
- 0
  
  wavefanc
  
  がしました