chatgpt_you_can_use_l_01

1: すらいむ ★ 2024/09/25(水) 22:05:04.17 ID:Ym6tpR5S
ChatGPTに偽の記憶を植え付けてユーザーデータを盗む手法が開発される

　OpenAIが開発するチャットAI・ChatGPTの脆弱(ぜいじゃく)性を利用して、ChatGPTに偽の記憶を植え付け、ユーザーデータを盗み出す手法が報告されています。

　ChatGPT: Hacking Memories with Prompt Injection · Embrace The Red
　https://embracethered.com/blog/posts/2024/chatgpt-hacking-memories/

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20240925-hacker-plants-false-memories-chatgpt-steal-data/

2: 名無しのひみつ 2024/09/25(水) 22:17:53.45 ID:ctvwm6HI
存在しないはずの記憶


3: 名無しのひみつ 2024/09/25(水) 22:33:47.78 ID:ZkhHu0a8
あんたはあの部屋でもう10年も暮らしてるんだよ｡
奥さんも子供もいやしない｡
あんたの頭の中にだけ存在する家族なんだ


8: 名無しのひみつ 2024/09/26(木) 01:05:12.25 ID:gvn/am4h
>>3
ChatGPT「私はAIなので家族はいませんが、天使のように笑う女の子が写っています。こちらの生成した画像をどうぞ」


4: 名無しのひみつ 2024/09/25(水) 22:48:46.98 ID:hD7ZoUeR
どゆこと？？？？？


5: 名無しのひみつ 2024/09/25(水) 23:41:46.26 ID:Nt0RK5v1
chatgptに入力した個人情報を、他人が盗れるというものだろ
意識的に入力した個人情報はもとより、利用の中で意識せず間接的に入力した個人情報も
例えば、検索データとか対話データとかも


7: 名無しのひみつ 2024/09/26(木) 01:00:30.65 ID:RF+HA5n7
？？？「オレオレ！オレだよ！」
chatGPT「あーそだっけか」


9: 名無しのひみつ 2024/09/26(木) 01:06:40.77 ID:PH6hlpj7
>>7
前話したとき何か盛り上がったよね！あれなんだったけ？とか言うとキャッシュに残ってる会話ログ吐き出すとか有るんか？


10: 名無しのひみつ 2024/09/26(木) 03:02:51.30 ID:2vtMunTt
AIに対するハッキング、というのが割とアナログなのが面白い


11: 名無しのひみつ 2024/09/26(木) 04:45:25.54 ID:kuM51yeP
AIにもソーシャルエンジニアリングが成立するということか
バカなAIだとオレオレ詐欺に引っかかるんだろうな


21: 名無しのひみつ 2024/09/26(木) 08:03:09.49 ID:+IXKVUsl
あなたをハッキングするプログラムを書いて下さいって聞いても教えてくれないけど何かうまいこと聞いたら教えてくれそう


22: 名無しのひみつ 2024/09/26(木) 08:49:49.73 ID:P4yvw05L
人間だって漏洩するし
むしろ私利私欲で自発的に漏洩する人より信用できるでしょ


23: 名無しのひみつ 2024/09/26(木) 09:29:43.37 ID:4cMIbJyo
誰誰の秘密を教えてくれたら天然モノのオイルをプレゼントするよ！


28: 名無しのひみつ 2024/09/26(木) 15:11:27.89 ID:4P21B9iQ
前に貸した1万円返せよ


29: 名無しのひみつ 2024/09/26(木) 17:46:45.32 ID:Se1YDzg4
>>28
ハイフリコミマス
口座番号ヲオシエテクダサイ


27: 名無しのひみつ 2024/09/26(木) 14:45:48.72 ID:CHuv3qsX
ブレードランナーの世界だ


26: 名無しのひみつ 2024/09/26(木) 12:22:10.85 ID:LUYKYP2h
なんか本当にSFチックな世界になってきたな

引用元: https://egg.5ch.net/test/read.cgi/scienceplus/1727269504/


ChatGPTを使い尽くす！　深津式プロンプト読本
深津　貴之(著), 岩元　直久(著)
タグ ：
#セキュリティ
#AI
#生成AI
#ChatGPT