【セキュリティ】ChatGPTに偽の記憶を植え付けてユーザーデータを盗む手法が開発される

2024年09月28日00:01

カテゴリ:
ニュース
AI・ディープラーニング

1: すらいむ ★ 2024/09/25(水) 22:05:04.17 ID:Ym6tpR5S

ChatGPTに偽の記憶を植え付けてユーザーデータを盗む手法が開発される

　OpenAIが開発するチャットAI・ChatGPTの脆弱(ぜいじゃく)性を利用して、ChatGPTに偽の記憶を植え付け、ユーザーデータを盗み出す手法が報告されています。

　ChatGPT: Hacking Memories with Prompt Injection · Embrace The Red
　https://embracethered.com/blog/posts/2024/chatgpt-hacking-memories/

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20240925-hacker-plants-false-memories-chatgpt-steal-data/

2: 名無しのひみつ 2024/09/25(水) 22:17:53.45 ID:ctvwm6HI

存在しないはずの記憶

タグ：: #セキュリティ; #AI; #生成AI; #ChatGPT

AIの方が人間より陰謀論者の説得が得意、ChatGPTとの会話で陰謀論への信念が永続的に揺らぐとの研究結果

2024年09月20日00:01

カテゴリ:
ニュース
AI・ディープラーニング

コメント(25) 　

1: すらいむ ★ 2024/09/17(火) 23:52:35.20 ID:pJyMxXRc

AIの方が人間より陰謀論者の説得が得意、ChatGPTとの会話で陰謀論への信念が永続的に揺らぐとの研究結果

　6割以上の人が「人間の上司よりAIを信頼する」と答えたとの調査結果があるように、人はしばしば人の言葉よりAIの言葉に耳を貸す傾向を見せます。
　人間が説得しようとするとかえって意固地になってしまうことが多い陰謀論者の誤った信念を、AIとの会話で長期的に改善することができたとの論文が発表されました。

　Durably reducing conspiracy beliefs through dialogues with AI | Science
　https://www.science.org/doi/10.1126/science.adq1814

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20240917-reducing-conspiracy-beliefs-ai/

4: 名無しのひみつ 2024/09/18(水) 01:12:43.15 ID:gacRashA

陰謀ではない裏付けが難しいものもある

タグ：: #AI; #生成AI; #陰謀論

【IT】さらばエクセル・パワポ職人　Microsoft、AI支援高度化

2024年09月18日06:01

カテゴリ:
ニュース
AI・ディープラーニング

コメント(16) 　

1: 田杉山脈 ★ 2024/09/17(火) 16:06:25.36 ID:vI98KoIM

　米マイクロソフトは16日、業務ソフト「マイクロソフト365」の人工知能（AI）機能を強化すると発表した。「エクセル」や「パワーポイント」では「職人技」とされてきた高度な作業をAIが代替する。個人スキルに依存していたデータ処理や資料作成の複雑な操作を誰でもできるようにする。

以下ソース

https://www.nikkei.com/article/DGXZQOGN1704D0X10C24A9000000/

3: 名刺は切らしておりまして 2024/09/17(火) 16:22:37.45 ID:aBYTbG+X

Excelの資料作るので結構いい金貰ってる人がいたんだがもう終わりだなぁ

タグ：: #AI; #生成AI; #Microsoft; #Office; #Microsoft365

結局AIで絵を描いても「描いたのはAIだろ」言われるわけで

2024年09月15日21:01

カテゴリ:
購入・故障・相談・雑談
AI・ディープラーニング

コメント(93) 　

stable_diffusion_ai_anime_girl_winter_l_01

1: 名無しさん＠おーぷん 24/09/13(金) 13:02:22 ID:aEIO

凄い言われたかったら自力で描かないと駄目だわ

タグ：: #AI; #生成AI; #お絵かき

お前ら生成AIを使いこなす勉強してる？

2024年09月13日00:01

カテゴリ:
購入・故障・相談・雑談
AI・ディープラーニング

コメント(32) 　

stable_diffusion_anime_illustration_l_01

1: 以下、5ちゃんねるからVIPがお送りします 2024/09/11(水) 01:39:06.502 ID:eHHakQWY0

未来のために「AIマスター」を目指そうぜ

タグ：: #AI; #生成AI

【AI】AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

2024年09月06日00:01

カテゴリ:
ニュース
AI・ディープラーニング

コメント(20) 　

1: すらいむ ★ 2024/09/04(水) 22:47:44.19 ID:84L+Bl0i

AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

　AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
　この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。

　[2408.04681] Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews
　https://arxiv.org/abs/2408.04681

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20240904-ai-implanted-false-memories/

2: 名無しのひみつ 2024/09/05(木) 00:16:45.98 ID:ONG7fGKt

単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな

タグ：: #AI; #生成AI; #記憶

AIが小説書けるようになったとしてそれを読む意味はあるんかな？

2024年08月30日21:01

カテゴリ:
購入・故障・相談・雑談
AI・ディープラーニング

コメント(28) 　

1: 名無しさん＠おーぷん 24/08/30(金) 01:11:58 ID:GE7s

小説に形だけはなってたとしても作者の思いみたいなのは存在しないわけやろ？
いくら美文でもそれに価値あるんかな

タグ：: #AI; #生成AI; #小説

AIイラストって結局良いの？悪いの？

2024年08月27日21:01

カテゴリ:
購入・故障・相談・雑談
AI・ディープラーニング

コメント(65) 　

best-anime-diffusion-model-feature-image_l_01

1: 名無しさん＠おーぷん 24/08/27(火) 07:17:34 ID:rDIZ

教えてくれ

レスバ始まると話逸れまくって意味不明になるから
レスバは無しで頼む

タグ：: #AI; #生成AI; #AIイラスト

【AI】OpenAIが警告──ChatGPTの音声モードにユーザーが感情的に依存する恐れ

2024年08月19日21:01

カテゴリ:
ニュース
AI・ディープラーニング

コメント(25) 　

1: 田杉山脈 ★ 2024/08/18(日) 03:04:14.45 ID:Pq7cs19s

OpenAIがChatGPTの不気味なほど人間らしい音声インターフェースを展開し始めたのは7月下旬のことだ。OpenAIが8月8日に公開した安全性に関する調査結果は、一部のユーザーが人間らしくなった音声をもつチャットボットに愛着をもつ可能性があることを認めている。

この警告は、GPT-4oの「システムカード」に含まれていたものだ。システムカードとは、同社がモデルに関連するリスクと考えるもの、および安全性テストにまつわる詳細と潜在的なリスクを軽減するための同社の取り組みを記した技術文書のことである。

OpenAIは、人工知能（AI）の長期的なリスクの調査に取り組んでいた複数の社員が退職してからの数カ月間、世間から厳しい目を向けられてきた。その後も元社員らは、OpenAIはリスクを軽視し、AIの商業化を急いで反対意見を抑圧していると主張していた。自社の安全性にまつわる管理体制の詳細を公開することは、世間からの批判を軽減し、同社が問題に真剣に取り組んでいることを示すのに役立つかもしれない。

システムカードの中身
新しいシステムカードには、GPT-4oによる社会的偏見の増幅から偽情報の拡散、化学兵器や生物兵器の開発に寄与する可能性まで多岐に渡るリスクに関する調査結果がまとめられている。また、AIモデルが制御から逸脱した行動をとったり、ユーザーを欺いたり、破滅的な結果をもたらす計画を立てたりしないことを確認するためのテストの詳細も明らかにされている。

以下ソース
https://wired.jp/article/openai-voice-mode-emotional-attachment/

2: 名刺は切らしておりまして 2024/08/18(日) 03:15:21.24 ID:ID1SF1g0

ええやんええやん