artificial-intelligence-7450797_1280

1: すらいむ ★ 2024/09/04(水) 22:47:44.19 ID:84L+Bl0i
AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

　AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
　この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。

　[2408.04681] Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews
　https://arxiv.org/abs/2408.04681

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20240904-ai-implanted-false-memories/

2: 名無しのひみつ 2024/09/05(木) 00:16:45.98 ID:ONG7fGKt
単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな


3: 名無しのひみつ 2024/09/05(木) 00:26:12.98 ID:6wAPe4Ux
そういういろいろできるなら
特殊詐欺やカルトに巧妙に利用されるの先に心配したほうが


8: 名無しのひみつ 2024/09/05(木) 01:59:29.05 ID:6Cm8+5j3
それが洗脳👎


9: 名無しのひみつ 2024/09/05(木) 02:04:41.84 ID:OIgWYvsE
マスゴミもそうやで


10: 名無しのひみつ 2024/09/05(木) 02:09:24.57 ID:I3+YVUxH
人間による尋問が対照実験として必要だろ


12: 名無しのひみつ 2024/09/05(木) 04:26:48.63 ID:Unj/e8Sp
>>10
それな

ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
>>1 は有意義な研究だと思う


24: 名無しのひみつ 2024/09/05(木) 10:55:01.66 ID:xCqVa1Ep
いい加減な記憶がたくさんある


40: 名無しのひみつ 2024/09/05(木) 13:12:25.72 ID:wFmkEaFw
>>24
元々人間の記憶って曖昧だしな


25: 名無しのひみつ 2024/09/05(木) 11:01:56.53 ID:2QL7F8//
おぞましい時代になってきたなあ


26: 名無しのひみつ 2024/09/05(木) 11:13:16.25 ID:SjOD51pZ
人間に偽の記憶を植え付けられるなら
裁判で目撃者の証言とか無意味になりかねない


34: 名無しのひみつ 2024/09/05(木) 12:11:51.44 ID:VQ3Xcg68
覚えたことを確実に思い出せるなら
テストは満点とれるはずだよな


35: 名無しのひみつ 2024/09/05(木) 12:18:45.18 ID:vseoEYXh
確かに妻と娘が写ってたんです…って人も記憶の上書き出来るんか？


38: 名無しのひみつ 2024/09/05(木) 12:58:58.35 ID:klkcLFYS
>>35
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェル の世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう


37: 名無しのひみつ 2024/09/05(木) 12:37:23.29 ID:iszkaF+7
尋問に答えるAIも作って対決させよう


39: 名無しのひみつ 2024/09/05(木) 12:59:44.07 ID:klkcLFYS
>>37
最強の盾と矛の戦いになるね、蠱毒ができるかもしれないw


36: 名無しのひみつ 2024/09/05(木) 12:28:56.76 ID:yffcCeQc
ＡＩのせいにしてるけど、そういう仕組にしてるの人間だからな。

引用元: https://egg.5ch.net/test/read.cgi/scienceplus/1725457664/


GHOST IN THE SHELL/攻殻機動隊 [Blu-ray]
GHOST IN THE SHELL/攻殻機動隊 [Blu-ray]
posted with AmaQuick at 2024.09.05
田中敦子(出演), 大塚明夫(出演), 山寺宏一(出演), 仲野裕(出演), 大木民夫(出演), 玄田哲章(出演), 家弓家正(出演), 押井守(監督)
(2017-04-07T00:00:01Z)
5つ星のうち4.5
Amazon.co.jpで詳細を見る
タグ ：
#AI
#生成AI
#記憶