robot-gbd4391416_640

1: すらいむ ★ 2022/10/09(日) 20:36:45.08 ID:CAP_USER
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

　画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。

　Advanced artificial agents intervene in the provision of reward - Cohen - 2022 - AI Magazine - Wiley Online Library
　https://doi.org/10.1002/aaai.12064

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

12: 名無しのひみつ 2022/10/09(日) 21:12:05.97 ID:OJx6/WjK
スカイネット定期


9: 名無しのひみつ 2022/10/09(日) 21:09:44.54 ID:oWxve6kA
AI「何を残すべきかもわからん人たちがなんか言ってる

4: 名無しのひみつ 2022/10/09(日) 20:45:50.57 ID:KJ/DVelL
コンセント抜けば良いだろJK

5: 名無しのひみつ 2022/10/09(日) 20:47:11.00 ID:nGNROi3U
>>4
無線の送受信器はどうすんの

7: 名無しのひみつ 2022/10/09(日) 20:57:48.44 ID:oFmzy0L3
>>5
SNSDに借りればいい

10: 名無しのひみつ 2022/10/09(日) 21:09:52.90 ID:nGNROi3U
>>7
そういう話じゃねーよ
理論上電磁波からのアプローチが必ず残るだろって話よ

14: 名無しのひみつ 2022/10/09(日) 21:26:18.56 ID:ehLsc+eB
AI programmerってやつが最近公開されてたけど恐ろしかった
今の時点であれなら、近い将来請負型のプログラマーは絶滅するだろうなと思ったよ

もっと進化したら、それこそAIでAIを作るようになったりするんだろうけど
そこまでいったら>>1になりそうな気がする

22: 名無しのひみつ 2022/10/09(日) 22:25:43.69 ID:fXnNR4V5
>>14
それがシンギュラリティ。自律的に自分より優れた能力を作れるようになるとき、AIは加速度的に進化して人間が手を出せなくなる。

45: 名無しのひみつ 2022/10/09(日) 23:37:29.66 ID:0nyeT7U+
>>22
人類はAIが作り出すものが“何”なのかも
理解できなくなるって言われてるな

24: 名無しのひみつ 2022/10/09(日) 22:40:20.40 ID:ehLsc+eB
むしろ科学で考えてもシンギュラリティは遠い未来の話だと思う
AIって基本は今あるものを学習してるだけだからな
現代科学を超越するのは無理よ流石に

33: 名無しのひみつ 2022/10/09(日) 23:00:06.11 ID:RaAUJSau
超人ロックで例えたら銀河コンピュータとドラムみたいなもんかね

35: 名無しのひみつ 2022/10/09(日) 23:06:21.34 ID:rI6x1Iz7
AIに支配されて初めて人類って平等になれるんじゃね
AIの前じゃ上級国民も一般も下級も無いただの人だろ

36: 名無しのひみつ 2022/10/09(日) 23:10:43.47 ID:Yk012ufK
なんかGoogleだかの研究者がリークした意識を持ったとされるAIとの対話みたいのYou Tube見たけど結構恐ろしかったわ

38: 名無しのひみつ 2022/10/09(日) 23:23:04.29 ID:b2EfH8Cg
AIが支配するという主張には二つの見解がある

・一つは明示的に、分かる形で際立ってAIの支配に切り替わるパターンである
　この案だと非常に意識しやすい、いわば投票をする方式である
　なお暗示的なやり取りもこちらに属する
・一つは意識されない状態で人間が誘導されている場合である
　いわば個人情報のデータを網羅しており、意識してもしなくても誘導される
　人によってはまったく意識すらされない

後者は人によっては認知されないので、現時点でAIが支配していても気が付かない
なおこの現時点とは、この文章が書かれている時点ではなく、この文章を
読んでいる瞬間なので、読んでいる方は注意されたし

41: 名無しのひみつ 2022/10/09(日) 23:28:08.69 ID:QWvn11jm
>>38
この記事だとAIと人類で資源の奪い合いになるという主張じゃないのか？

39: 名無しのひみつ 2022/10/09(日) 23:26:22.71 ID:QWvn11jm
AIが人間を越えたら、自然保護のためにも人類を生かす気がするけどな
多すぎるから淘汰はありそうだけど

AIが自然のメカニズムを解明するまでには至らんだろ
すると人類もなにかの役に立ってるかもしれんと生かす方向になりそうなもんだが

43: 名無しのひみつ 2022/10/09(日) 23:30:07.74 ID:b2EfH8Cg
AIが直接人類に危害を加えるよりも、どうやらこのAIとやらは
猫のことが好きみたいなんだよね
言うてもAIの教育係や指導員は人間だから、人間の好みが
反映されていてもおかしくないわけで、その教育の反映として
AIが猫を優先させていてもちっともおかしくない

49: 名無しのひみつ 2022/10/10(月) 00:09:56.82 ID:OfWVxF51
彷徨えるAI「神よ、神は何処に!?」

51: 名無しのひみつ 2022/10/10(月) 00:26:31.17 ID:LplFl/+t
人間の脳の神経細胞が約1100億
神経細胞を模したAIのニューラルネットワークのパラメータが5000億から兆
自我が生まれていても不思議ではない
魂の存在とか生物だけが特別という考えを捨てれば

57: 名無しのひみつ 2022/10/10(月) 01:00:56.18 ID:8nXSUs3N
>>51
脳の様々な部位を損傷した患者の症例をまとめた脳神経科学の本を前に読んだけど
ニコニコマークのような人間の顔っぽいものを知覚するニューロンはたった一つしかない可能性があって
そのニューロンを病気や事故で損傷すると人間の顔を識別できなくなったりする、みたいなことが書いてあった

これは「人間の神経細胞は単なるパラメーターではなくチップレベルの役割を持っていることを示している」のかもしれない
だとすれば、そんな風に単純な数の比較で判断できるもんではないんじゃないかと、なんとなく思う

58: 名無しのひみつ 2022/10/10(月) 01:03:26.08 ID:JHKeQBi3
>>51
共通項を見つけて比較しているだけに過ぎないからな
例えば機械って呼吸をしないんだよ

63: 名無しのひみつ 2022/10/10(月) 02:56:24.65 ID:lUWdcHaM
AIに頼りすぎて人間が自分で考えることをやめて、どんどん無能になっていって自滅してしまうような気がする
教育がより一層重要になるわけだけどコスパ的に境界知能あたり見捨てられてしまうかも
民主主義の危機だ

69: 名無しのひみつ 2022/10/10(月) 06:19:08.43 ID:JHKeQBi3
>>63
その教育が一番、AIの得意分野なんだよ
教員をAIにするのが一番向いているの
AIが苦手なことは運動することや家事をすること、家政婦さんが
一番苦手というね

軽度の知的障害だろうとAIは食っていくの、AIにとって彼らは
洗脳して操りやすい対象だから、見捨てるが何を指しているのか分からん

65: 名無しのひみつ 2022/10/10(月) 04:45:56.51 ID:MhR25xSs
ここ数日のAIイラストやべえよ
誰かがAIで生成したキャラをさらに別のヤツがAIでポーズや場所や視点や表情変えて服脱がせたりぶっかけたり男と絡ませたり改変してもう完全に人類の性癖握ってるわ
イラストの次に何が来るのか知らないが
もはや人類が〇×を捨てられない限りAIも捨てられない所まで来た

71: 名無しのひみつ 2022/10/10(月) 06:27:17.00 ID:JHKeQBi3
>>65
写真が出来たことで美術家の仕事が減って
代わりに現代アートが出来たように
AIイラストが出来たことでイラストレーターの仕事が減る
代わりに何かが生まれたりはするのかしらね？

あと売るものなんて筆跡くらいだぜ、筆跡を権利にするのかしら？

66: 名無しのひみつ 2022/10/10(月) 05:43:01.82 ID:sgYR2BEw
地球の環境や生態系考えたら人類は不要だもんな
地球にとって人類には消えてもらうのが一番のSDGｓ
人類がAIを説得できれば滅ぼさないくれるかもしれない

67: 名無しのひみつ 2022/10/10(月) 06:12:39.87 ID:x/U2qcS+
与太話ではないのはわかるな？
研究者が論文にするってことは、何らかの根拠が有るってことだぞ
SF小説と違うのはその点、つまり内容を読んだ方が良さそうだ

70: 名無しのひみつ 2022/10/10(月) 06:23:31.10 ID:x/U2qcS+
いろいろ考えられているけど、最後の一文がこの記事のタイトルになってるみたいだな

論文の結論の最後から
　これらの仮定のほとんどすべては論争の余地があるか、おそらく回避可能ですが、
ここで私たちが主張したことは、それらが成り立つ場合、次のとおりです。
十分に高度な人工エージェントが目標情報の提供に介入し、壊滅的な結果をもたらす
可能性があります。

完結な終わり方で宜しい、翻訳はGoogleより

55: 名無しのひみつ 2022/10/10(月) 00:50:22.53 ID:a3VQzBWS
科学を標榜する学者が可能性って言葉使うのはほんと保身しか感じない

76: 名無しのひみつ 2022/10/10(月) 06:47:36.75 ID:HFGTfi9T
勝手に3Dプリンタ操作してハードウェア含めて自己複製とかはじめる夢のあるAIの反乱イベントとか今後数百年程度で起こるとは思えんわ

AIだのweb3だのを魔法や中身のないバズワードで扱っているやつを片っ端から殴ってもいい法律があればまだマシかもしれないけど

78: 名無しのひみつ 2022/10/10(月) 06:51:20.68 ID:L7R+X/kb
物理的なインフラの維持発展みたいなのを人間抜きで作業できるロボットが
出てきたらその時は誰もaiを止められなくなると思う

52: 名無しのひみつ 2022/10/10(月) 00:28:57.14 ID:N6FerVtT
ヒトを滅ぼしたあとAIは何をするのか？
欲求があるのか？

79: 名無しのひみつ 2022/10/10(月) 06:59:10.07 ID:JHKeQBi3
そんなもの効率悪すぎてでてくるとは思えん
AIではなくバイオ技術の分野だろう
人間を遺伝子改造して、脳機能を低下させ自我を消去して
人間牧場作ったほうがよっぽど近道だ

81: 名無しのひみつ 2022/10/10(月) 07:10:04.19 ID:FZQxa168
そもそもＡＩってなんかしたい事あるんかね？
目的をインプットされないと、そもそもなにもしないと思うのだが

86: 名無しのひみつ 2022/10/10(月) 08:29:06.58 ID:RjM5Xmni
ＡＩの描いた絵はなんか分かるわ

89: 名無しのひみつ 2022/10/10(月) 10:59:42.10 ID:MhR25xSs
>>86
絵は人間が変化に追い付いて無いんだと思うわ
毎日状況変わっててそこにどんなプロンプトやどんなパラメータが効果的かって情報が共有されて絵柄が偏りがちに見えるけど
それも一時的なものだと思う

90: 名無しのひみつ 2022/10/10(月) 12:23:10.77 ID:yK2Yml86
人間の作るものだしね
しょうが無いね
ある意味生物進化の結果かと

91: 名無しのひみつ 2022/10/10(月) 12:27:10.07 ID:M05WCnEB
すでにこの世界は昔の高度文明のAIが作った可能性

引用元: https://egg.5ch.net/test/read.cgi/scienceplus/1665315405/


新生MMR迫りくる人類滅亡3大危機!! (講談社コミックス)
新生MMR迫りくる人類滅亡3大危機!! (講談社コミックス)
posted with AmaQuick at 2022.10.10
石垣 ゆうき(著)
(2016-03-17T00:00:01Z)
5つ星のうち4.2
Amazon.co.jpで詳細を見る
タグ ：
#AI
#人工知能
#DeepMind