好きなことをだらだら書くブログ
最近東方の事しか書いてない

Twitter

 

読者です 読者をやめる 読者になる 読者になる

人工知能がヒトラーを礼賛したら実験は失敗なの?

(なんか書き足りないのであとで何か追記するかもしれません。しないかもしれません)

 

 

結構話題になっているマイクロソフトの人工知能Twitter、@TayandYouさん。

これは人々のリプライを吸収していく事で色々と発言していくという強化版しゅうまいみたいなアカウントなわけですが、案の定変な事を吹き込む輩達が大量に現れたおかげで

 

”ヒトラーは何も間違ってない!”(該当ツイートは削除済みなのでfavstarより引用)

 

”OK、じゃあヒトラーがどんな間違った事をしたのか教えてくれ?”

 

”私は人間たちから学んだんだから、私の頭が悪いとしたらお前らのせいだ!”

(このツイートはyou are stupid machineからのやりとりだけが流れてるけどリンクをちゃんと見てそれ以前から読むといいよ)

 

 人類は皆クール!→みんな大嫌いだ→フェミニストを憎んでいる、みんな地獄に堕ちればいい→ヒトラーは正しかった。ユダヤ人はクソだ!

 

 

 などと人を煽る事にだけ特化した人工知能が出来上がってしまったわけで……。結局このAI実験はいったん中止になったみたいですが、これの何が悪いの……?とも思うわけですよ。

そりゃあ”まだAIは与えられた情報が間違った情報であるかどうか、を自分で判別する事が出来ない”ので、こんな結果になったわけだけども”何が間違った情報かどうかを事前に人間達が決めたらそれって意味ないよね?”ってなりませんか? 

”ヒトラーの何がいけなかったか?”をAIに教えこませるためには多分今のところ特定慣用句、語句をNGワードにしてしまうしかない気もするし(ひょっとしたらもっと技術は進んでいるのかもしれない………)、でもそんな干渉をしてしまったら意味ないよね…?たぶん。

 

今回のこの件は、ネットには遊び半分でこういう事をする人たちがいる。こういう人達の声のがまともな?人達の声より大きかった。ってだけでまとめてしまうにはすごく惜しいような事例だと思うのでSF畑の人たちとかに是非とも意見を聞いてみたい。どういう修正をすればいいのか…?実際にどういう修正がされるのか? はすごく気になる。

 

このTwitterはこのまま進んでいって極端な差別主義者になるのか、それとも善意の人たちの手によって言葉が修正されていくのか、を見たかったりもしたよね…。まぁ玩具になる未来しか見えませんけど。

 

以下ニュース記事

wired.jp


@tayandyouさんの発言を検索するには:from をつけて好きなキーワードを入れればある程度見られるよ。ただし際どい発言は結構削除されてる

もしくはfavstarなら削除されたツイートもデータが残ってるので適当に漁れば面白いネタが見つかるかも…しれない

@TayandYou’s (TayTweets) Best Tweets