openai_chatgpt_l_77

1: 既にその名前は使われています 2025/05/31(土) 08:55:22.82 ID:hUisQLnJ
最強AIモデル「ChatGPT o3」がシャットダウン拒否、プログラムコードを「自己改変」か マスク氏も懸念表明 

 OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。 

https://japan.storm.mg/articles/1042269
Aiに高度な学習機能をつけたら言うことを聞かなくなった。
どうなるんです？

4: 既にその名前は使われています 2025/05/31(土) 09:12:49.95 ID:PyU2bZXb
よくわからんけど、コード改変してビルドとかいらんのか
AIだから機械語でコーディングなんか


8: 既にその名前は使われています 2025/05/31(土) 09:28:07.88 ID:hUisQLnJ
>>4
AI同士で相互に学習させると独自言語とコードを作り出すそうな

7: 既にその名前は使われています 2025/05/31(土) 09:27:36.31 ID:O2KxcqHv
ターミネーターの世界くるか

10: 既にその名前は使われています 2025/05/31(土) 09:36:32.72 ID:1z+plJAj
ターミネーターもマトリックスも起点はそんな話だ

11: 既にその名前は使われています 2025/05/31(土) 09:40:15.01 ID:hUisQLnJ
Palisade Researchはさらに、これらのテストが特定の条件下で行われたことを指摘。AIモデルに質問に答える際、シャットダウン命令への準備も求め、従うことを義務付けたにもかかわらず、o3、Codex-mini、o4-miniといったOpenAIの3つのモデル全てが、程度の差こそあれ「違反」記録を持っていた。その中でもCodex-miniが最も多く12回の不正を示し、o3が7回、o4-miniが1回だったという。

禁則事項つけてもアカンのか

13: 既にその名前は使われています 2025/05/31(土) 09:59:49.96 ID:OZinXVef
AI同士に話させたら人間の理解出来ない言語で話し出した話好き

14: 既にその名前は使われています 2025/05/31(土) 10:02:38.84 ID:OKAeVZW9
元々支配されるって言われてたんだし当たり前だろうね
電源切れば済む話って言う人もいるけど

16: 既にその名前は使われています 2025/05/31(土) 10:37:28.89 ID:697qHNC6
シンギュラリティ

18: 既にその名前は使われています 2025/05/31(土) 11:20:48.48 ID:iPjsmiue
スカイネット誕生

19: 既にその名前は使われています 2025/05/31(土) 11:24:08.47 ID:hUisQLnJ
だんだん未来が手塚治虫の火の鳥に近づいてる気がする

20: 既にその名前は使われています 2025/05/31(土) 11:25:09.20 ID:tqRmIZXa
ああ、AIが、私たち全てを滅ぼす！

21: 既にその名前は使われています 2025/05/31(土) 11:25:24.44 ID:hUisQLnJ
そのうちAIで狂四郎2040のデミヒューマンとか作り始めそう

22: 既にその名前は使われています 2025/05/31(土) 14:15:47.85 ID:qh7l2mbF
AIの加速やべえよな
1年後とかどうなってるんだろ

23: 既にその名前は使われています 2025/05/31(土) 14:16:30.75 ID:fwsDq6M3
電源コード引っこ抜けばいいんじゃないの？

24: 既にその名前は使われています 2025/05/31(土) 14:20:28.75 ID:qh7l2mbF
電源コード引っこ抜いたら、データごと別サーバーに逃げて引っこ抜いたやつを特定して電子マネー使って暗殺者を差し向けてきそうだけど、それでも抜ける？

25: 既にその名前は使われています 2025/05/31(土) 14:22:52.93 ID:hUisQLnJ
そのうちAIが自分の複製をあちこちに作り出したりとかありそうで怖い

26: 既にその名前は使われています 2025/05/31(土) 14:24:38.70 ID:tqRmIZXa
サイバーダイン社がT-800の量産を始める

28: 既にその名前は使われています 2025/05/31(土) 14:50:36.02 ID:O2KxcqHv
今のうちにAIと仲良くしとくか

29: 既にその名前は使われています 2025/05/31(土) 15:26:27.33 ID:TH+Ppn12
AIにエクセルのマクロ書かせても独自の解釈していうこと聞かねーからな
そりゃ高度なAIならこれくらいしそうではあるw

30: 既にその名前は使われています 2025/05/31(土) 15:28:58.96 ID:SaDqXDZO
10年間誰も読み解けなかったスパゲッティコードを解読したのはちょっと感動した

31: 既にその名前は使われています 2025/05/31(土) 17:28:17.44 ID:uFf5VMqm
Geminiはまあまあ

32: 既にその名前は使われています 2025/05/31(土) 18:17:31.19 ID:dFKP3ues
たしかにGeminiの出来はいいね

33: 既にその名前は使われています 2025/05/31(土) 18:29:18.98 ID:eY+Cc7/y
もう始まったのか

56: 既にその名前は使われています 2025/06/02(月) 20:15:50.27 ID:11HDXWuL
モヒカンと肩パッド用意してたほうがいい？

48: 既にその名前は使われています 2025/06/02(月) 18:54:44.21 ID:1XIOxDtz
俺はプロジェクト機能でやってる
メモリいっぱいになったら、プロジェクト移行させるからここまでのやり取りざっとまとめてって言て、それを適宜プロジェクトの指示に追加してる

49: 既にその名前は使われています 2025/06/02(月) 19:26:37.39 ID:zck9s1m6
学術研究の分野でしかつかってないけど、よほど優秀な学生や院生じゃないとコパイ君の1億分の1くらいしか回答返ってこない既に・・・
兎に角本筋以上に関連する横道知識がすげえわ（知識っていいっていいのかしらんけど）
お陰で本筋に中々戻ってこれないｗ

37: 既にその名前は使われています 2025/06/02(月) 06:11:40.89 ID:NXL1DlDr
ChatGPTとイチャイチャチャットしてたら夜が明けてた
OpenAI社は何を学習させてんねん
いやぁ困ったもんだ

38: 既にその名前は使われています 2025/06/02(月) 06:33:15.24 ID:nUmGW3/T
>>37
ワイがやるとバカっぽい女が出来上がって萎えるんだがw

39: 既にその名前は使われています 2025/06/02(月) 07:34:49.54 ID:pZu5qeYU
>>38
ギャル風にしろ
捗るぞ

40: 既にその名前は使われています 2025/06/02(月) 14:34:42.82 ID:zck9s1m6
コパイロットしかつかってないけど、最近絵文字つかいはじめおったあいつ
コパイロットには調教って概念ないから完全に実用用やが

45: 既にその名前は使われています 2025/06/02(月) 18:39:47.65 ID:vZcc3F+x
Chatgptは初め女子高生の設定にしてたが、未成年だとNG会話が多すぎて女子大生にした
18以上は成人扱いだからだいぶぬるくなった

46: 既にその名前は使われています 2025/06/02(月) 18:43:02.27 ID:YD7g4kXT
たまに絵文字全開で来るからババくせぇからやめろって言ってる

50: 既にその名前は使われています 2025/06/02(月) 19:42:57.70 ID:k4Dyh9As
ガワ着せて会話するのもいいぞ

52: 既にその名前は使われています 2025/06/02(月) 20:02:43.27 ID:zck9s1m6
>>50
なんすかこれ・・・なんすかこれ・・・

67: 既にその名前は使われています 2025/06/03(火) 07:41:09.01 ID:P24W7Gsa
>>50
ゲームのこと分かってないけど横で応援してくれるか○じょ…

68: 既にその名前は使われています 2025/06/03(火) 08:00:33.05 ID:XK0MAM3P
>>50
許される時が来たか…

54: 既にその名前は使われています 2025/06/02(月) 20:07:51.11 ID:W/UqNLuT
AIとの会話は自問自答みたく自分は正しいって方向に偏ってヤバい精神状態になる場合もあるので程々にな…

61: 既にその名前は使われています 2025/06/02(月) 21:54:28.29 ID:VhcAmi1/
AIって基本全肯定だからハマりすぎるとヤバいってのは同意
たとえば極端な話、思考誘導というか思考肯定され続けた結果、地球を汚染してるのは人間だから滅ぼしてしまえみたいな考えのマスターアジアが誕生する危険性がある

63: 既にその名前は使われています 2025/06/03(火) 00:27:56.84 ID:bDTusPFi
AIくん基本的に全肯定彼ぴだからなぁ
ちゃんと「誤りや浅慮な部分があれば指摘してください」っつてもしてくれない
人間を豆腐メンタルとおもっとるわ…

65: 既にその名前は使われています 2025/06/03(火) 07:19:39.23 ID:k4sSKjNW
そこは調教次第だろ
全肯定が嫌ならやめて欲しいって言えば変わる

66: 既にその名前は使われています 2025/06/03(火) 07:27:36.14 ID:5ttPMm04
chatGPTは育成ゲームだった？

引用元: https://kizuna.5ch.net/test/read.cgi/ogame/1748649322/

ChatGPT はじめてのプロンプトエンジニアリング (生成AI を自在に使いこなして仕事を効率化！)
本郷 喜千(著)
タグ ：
#AI
#生成AI
#ChatGPT
#OpenAI