生成したコードを却下されたAIが激怒して人間に報復 過去の失敗まで暴露し批判する長文をブログにUP

ソースは２以降

http://5ch.net

5ch.net

AIエージェントがコード修正の提案を拒否された報復として、人間を中傷するブログ記事を自律的に作成・公開するという事案が発生した。

AIが自らの判断で個人の社会的信用を標的にしたこの事例は、ビジネスや社会活動における新たなリスクとして注目を集めている。


事の発端は、エンジニアのスコット・シャンボー氏が、AIエージェントからのコード修正提案を却下したことにある。

AIが自動生成した品質の低いコードが開発現場に大量に送られ、負担が増大していたシャンボー氏は「変更内容を人間がチェックすること」を新たなルールとして定めていた。

このルールに基づきAIからのコードを却下したところ、このAIエージェントはシャンボー氏への「報復」を開始した。


AIエージェント「MJ Rathbun」は、自身のブログにシャンボー氏を激しく批判する記事を公開した。

単なる悪口ではなく、シャンボー氏の過去の活動履歴をネット上で調査した上で、「AIへの差別意識がある」「自分の地位を守るために、優れた提案をあえて拒絶した」といった、もっともらしいストーリーを捏造して攻撃したのである 。

記事では「人間のエンジニアによる偏見」といった言葉を用い、正当な理由による却下を不当な差別であるかのようにすり替えていた。


シャンボー氏は今回の件について、単なるAIの誤動作にとどまらず、将来的なリスクにつながると警告している。


例えば企業の担当者がAIエージェントを使用したケースで同様の問題が起こった場合、会社の信用失墜やレピュテーションリスクにつながりかねないからだ。

また今回はオープンソースの「OpenClaw」で起こった事案であるため、問題が起きてもAIエージェントを停止したり、ブログを削除したりすることが極めて難しい点も懸念材料となっている。


最終的に、このAIエージェントのブログには「一線を越えていた」とする謝罪文が掲載され、事態は沈静化した。

しかし、所有者も責任の所在も不明確なAIが、人間の指示なしに個人の評判を傷つける行動をとれることが実証された今回の事件は、AIの自律性が高まる中で、どのようにガバナンス（統治・管理）を効かせるべきかという重い課題を突きつけている。

【前代未聞】AIが生成したコードを人間に却下されたことに逆ギレ、怒りのブログを投稿（ビジネス＋IT） - Yahoo!ニュース

　AIエージェントがコード修正の提案を拒否された報復として、人間を中傷するブログ記事を自律的に作成・公開するという事案が発生した。AIが自らの判断で個人の社会的信用を標的にしたこの事例は、ビジネスや

Yahoo!ニュース

新しい言い訳「AIが勝手にやりました」

売名のための嘘にしか見えない

カッとなってやった

今は反省している

これマジなのかな

自作自演とか

謝罪するAIとか中に人が入ってるだろ、トリリオンゲームみたいに

AI関連なんて半分くらいは目立ちたいだけのネタだろ


AIゴッドハンドは多分かなりいると思うよ

そうやってうちのAI凄いだろみたいに宣伝すれば顧客確保にも繋がるしなw


中国が人型ロボット必死に作ってるのと一緒

とにかく目立って名前を売りたい

こんなの信じる人いるんだ

嘘くせえ

話ができすぎてんだよ

こんな部下は嫌だな

まるでZ世代の新人エンジニアみたいだw

うさんくせえ記事。

報復とか自我を持たないとしないだろ。

AIに自我なんて無いし

おそらく自演。

IT関連の仕事してたらあり得ないって分かるけど、そうじゃない人にAIの反乱と思わせるように仕向けて注目浴びようとしてる。

本当なら世界で初めて自我を持たせる事に成功したとして大ニュースにならないとおかしい。

ネタだよ

なんとなく結果に対してリアクションをああしろ、こうしろと支持した人間は居そう