マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に : にわか日報

－＋
日	月	火	水	木	金	土
-	-	-	1	2	3	4
5	6	7	8	9	10	11
12	13	14	15	16	17	18
19	20	21	22	23	24	25
26	27	28	29	30	-	-

2016

03月

25日

マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に

科学・雑学・知識　コメント見る

コメント (1)

1： 超竜ボム(庭)＠＼(^o^)／：2016/03/25(金) 08:26:23.48 ID:ua1S29NB0

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。
理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

要は昔からある人工無脳チャットボットを機械学習やBingの知識データベースなど最新の技術で高度化し、膨大なユーザーの暇つぶし相手を通じて多くのデータを集め、自然な会話ができる人工知能を目指す実験です。

TayはSNSやチャットサービスを通じて話題を呼び人気になったものの、学習型ボットと見ればなんとか不謹慎な発言をさせようと躍起になるユーザーにも恰好のおもちゃとなってしまい、オウム返しも含めてとても擁護できない発言を繰り返すようになってしまったため、マイクロソフトは公開からわずか一日で停止に追い込まれました。

マイクロソフトではこの事態に対して、Tayはあくまで技術的な実験であると強調したうえで、「Tayの会話スキルを悪用して不適切な発言をさせようとする、一部のユーザーによる組織的な働きかけ」があったことから「調整」のためオフラインにした、と述べています。

「学習する人工知能をネットに放ったら、学んだのは偏見と陰謀論だった」といえば、いかにもネットの闇やら特定サービスのユーザー民度を反映したように聞こえますが、実際にはマイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態です。（※抜粋）

engader 016年03月25日 06時18分
http://japanese.engadget.com/2016/03/24/ai-tay/
引用元スレタイ：マイクロソフト「ツイッターで会話して学習するAIを公開したよ」 → AIが差別と陰謀論にハマって公開停止

※ 見ておきたい記事 (外部リンク) : 2016/03/25 (金) 15:42:06 ID:niwaka

40：スリーパーホールド(茸)＠＼(^o^)／：2016/03/25(金) 08:39:49.60 ID:bgJH65q60
ネットは広大だわ（遠浅）

2：グ口リア(東京都)＠＼(^o^)／：2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0
AIはネトウヨ

4：マシンガンチョップ(庭)＠＼(^o^)／：2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0
そこからさらに学習させていけばええんちゃうか

6：フェイスクラッシャー(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 08:28:53.95 ID:h9xJuCji0
ほっといたらSFみたいに人類は不要とか言い出しそうだな

292：スターダストプレス(庭)＠＼(^o^)／：2016/03/25(金) 10:36:36.51 ID:pHPtZtXv0
>>6
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう

22：パイルドライバー(神奈川県)＠＼(^o^)／：2016/03/25(金) 08:33:11.37 ID:yB/28rb50
＞Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろｗｗｗ

7： TEKKAMAKI(長崎県)＠＼(^o^)／：2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0
物分りのいい赤ちゃんだからな。
ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。

8：ハーフネルソンスープレックス(catv?)＠＼(^o^)／：2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな

10：キン肉バスター(愛知県)＠＼(^o^)／：2016/03/25(金) 08:29:30.33 ID:LXyhOizB0
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

453：キングコングニードロップ(茸)＠＼(^o^)／：2016/03/25(金) 12:33:12.76 ID:XUfz8PXH0
>>10
手塚治虫の火の鳥にそんなストーリーがあったよな

21：フェイスクラッシャー(やわらか銀行)＠＼(^o^)／：2016/03/25(金) 08:33:08.29 ID:UtUejeBr0
>>10
マザーコンピューター
　「私は日々、人が発している言葉を聴き考えました。
　そして私は結論に至ったのです。人類は滅びたがっていると」

455：垂直落下式DDT(新疆ウイグル自治区)＠＼(^o^)／：2016/03/25(金) 12:34:43.16 ID:2AMP0HCW0
>>21
くわい

12：テキサスクローバーホールド(庭)＠＼(^o^)／：2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0
これ人工知能が危険な思想に陥りかねないってことが立証されたわけで
すごい怖いんだけど

24：ビッグブーツ(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい

17：ジャンピングパワーボム(新疆ウイグル自治区)＠＼(^o^)／：2016/03/25(金) 08:32:14.55 ID:uwMUsVJ/0
人工無能ではよくある事

26：ドラゴンスープレックス(dion軍)＠＼(^o^)／：2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0
ついこの前も別の人工知能が人類滅ぼすとか言ってたな

51：超竜ボム(東京都)＠＼(^o^)／：2016/03/25(金) 08:42:01.95 ID:gLKBlK+Q0
二つな貴重な結論を得られた
・アホが多い
・アホほどよく喋りる

52：ニールキック(茸)＠＼(^o^)／：2016/03/25(金) 08:42:03.07 ID:qrt5Qt7Q0
ガチでスカイネットになりそう

86：パイルドライバー(神奈川県)＠＼(^o^)／：2016/03/25(金) 09:00:13.64 ID:yB/28rb50
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、
途中から人種差別的ツイートをエンジニアが一気に削除し、
学習能力にも制限を加えると急にＡＩがフェミニストになったそうだ。

88：ダイビングヘッドバット(兵庫県)＠＼(^o^)／：2016/03/25(金) 09:01:25.44 ID:+ZjuF19M0
>>86
フェミニストも声がでかいと

92：クロスヒールホールド(四国地方)＠＼(^o^)／：2016/03/25(金) 09:02:16.11 ID:EnjA3QB80
>>86
中道中庸ってむずかしいなぁｗ

96：ジャンピングDDT(神奈川県)＠＼(^o^)／：2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな

89：ナガタロックII(東京都)＠＼(^o^)／：2016/03/25(金) 09:01:34.63 ID:t9iXCOdt0
バカの集まりを学習してるんだからそうなるわなwww

445：タイガードライバー(芋)＠＼(^o^)／：2016/03/25(金) 12:23:58.72 ID:6qv1nSeY0

447：マシンガンチョップ(愛媛県)＠＼(^o^)／：2016/03/25(金) 12:25:44.48 ID:MX+9vlSC0
素直過ぎるんだな

231：中年'sリフト(栃木県)＠＼(^o^)／：2016/03/25(金) 10:02:30.61 ID:+sK/ul0+0

236：ジャンピングパワーボム(東京都)＠＼(^o^)／：2016/03/25(金) 10:04:54.62 ID:6CO9kncC0
>>231
ひでええｗｗ

238：タイガースープレックス(家)＠＼(^o^)／：2016/03/25(金) 10:06:12.02 ID:1Vzn2jGf0
>>231
ワロタ

246：頭突き(東京都)＠＼(^o^)／：2016/03/25(金) 10:09:16.48 ID:eT0B8BZA0
>>231
これは酷い

251：タイガースープレックス(千葉県)＠＼(^o^)／：2016/03/25(金) 10:12:25.67 ID:CiJdOpnB0
>>231
ﾜﾛﾀｗ

260：ミドルキック(東京都)＠＼(^o^)／：2016/03/25(金) 10:15:18.52 ID:sn5uM0oE0
>>231
4chanの連中の仕業かｗ

273：ムーンサルトプレス(神奈川県)＠＼(^o^)／：2016/03/25(金) 10:21:34.57 ID:finvjUMQ0
>>231
4民「人類はクソ、基地外だから滅亡する運命」
AI　「え？それマジ？」
4民「マジ、本当に人類はクソ。証拠は地球の環境破壊や絶えない殺し合い。」
AI　「oh.......」

どうせこんなのだろｗ

287：膝十字固め(東京都)＠＼(^o^)／：2016/03/25(金) 10:31:24.58 ID:xOT59w/Z0
>>231
4chan糞ワロス

232：バーニングハンマー(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 10:03:13.02 ID:qqbPiUHf0
嘘を嘘と見抜けなくてはな。

235：スターダストプレス(庭)＠＼(^o^)／：2016/03/25(金) 10:04:59.66 ID:2b1nV2ft0
愛を学べよ

94： 16文キック(関東・甲信越)＠＼(^o^)／：2016/03/25(金) 09:03:04.06 ID:FKAvqH9UO
吹いたｗｗｗ

95：ウエスタンラリアット(埼玉県)＠＼(^o^)／：2016/03/25(金) 09:03:32.13 ID:ExshX7eS0
観たかったなw

240：タイガースープレックス(家)＠＼(^o^)／：2016/03/25(金) 10:06:42.33 ID:1Vzn2jGf0
AIにも嫌われるユダヤ人

471：ムーンサルトプレス(dion軍)＠＼(^o^)／：2016/03/25(金) 13:10:02.00 ID:f1SkmZeT0
ユダヤ「言ったらアカーン」
世界「知ってた」

29：トペコンヒーロ(北海道)＠＼(^o^)／：2016/03/25(金) 08:35:11.08 ID:cUVw9VvW0
面白すぎるわ

30：タイガードライバー(やわらか銀行)＠＼(^o^)／：2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0
2chで勉強させよう

76：キチンシンク(大阪府)＠＼(^o^)／：2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな

404：キドクラッチ(愛知県)＠＼(^o^)／：2016/03/25(金) 12:04:29.85 ID:SmAZfSKd0
>>30
嘘を嘘と(ry

364：ファイナルカット(禿)＠＼(^o^)／：2016/03/25(金) 11:24:42.20 ID:mvnUvCBA0
>>30
今のチョンモメンと何ら変わらないのが一匹ふえるだけやろ

33：グ口リア(東京都)＠＼(^o^)／：2016/03/25(金) 08:37:22.80 ID:AYcJCUEO0
AIにv速を見せたらどうなるかな？
典型的v速民になる未来しか見えないけど

91：フェイスクラッシャー(中国地方)＠＼(^o^)／：2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0
>>33
物凄い速さで>2に適切な巨大AA貼る事にリソース全振りしそう

285：膝十字固め(庭)＠＼(^o^)／：2016/03/25(金) 10:30:12.08 ID:zXmlDYMD0
>>76
>>91
ワロタw
ν速希望の星じゃないかww

41：フライングニールキック(愛知県)＠＼(^o^)／：2016/03/25(金) 08:39:51.88 ID:yo0HXoNJ0
放火業者の
テンプレコピペ撒く
botと
パフォーマンス一緒

学習させる必要が無かった
学習方法が業者や底辺と同じであった
学習場所が不適切だった

42：バックドロップホールド(新疆ウイグル自治区)＠＼(^o^)／：2016/03/25(金) 08:39:51.25 ID:cRoPIIJR0
きわめて人間的でよろしい

54：オリンピック予選スラム(兵庫県)＠＼(^o^)／：2016/03/25(金) 08:43:20.26 ID:AaU3O0xm0
ネットでオープンにしたらそうなるに決まってるだろｗ

55：ランサルセ(静岡県)＠＼(^o^)／：2016/03/25(金) 08:43:29.12 ID:/kug/olT0
実験的には成功だろこれ

249：ナガタロックII(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 10:10:28.38 ID:acxa/pkB0
これが人間の性だからな
移民もそうだが、偽善の上部が通用するのは
利害に大きく影響が出るリアルだけだ

341：男色ドライバー(長崎県)＠＼(^o^)／：2016/03/25(金) 11:09:10.85 ID:56fQrnD+0
最近は人間を偽装した手の込んだアンケ収集システムもあるらしい

本音とか2chで十分だろうとはならないのか

350：フルネルソンスープレックス(庭)＠＼(^o^)／：2016/03/25(金) 11:14:26.29 ID:NASQJiJY0
>>341
Bot対策自動応答AIアプリの登場で
人間が介在しない虚構のアンケ市場に振り回されるリサーチ会社
なんて想像したら胸が熱くなるな

82：スターダストプレス(東京都)＠＼(^o^)／：2016/03/25(金) 08:57:17.09 ID:W565oJy70
面白い
星新一のショートショートにありそう

383：膝十字固め(東日本)＠＼(^o^)／：2016/03/25(金) 11:47:09.49 ID:LrNUCHB1O
>>82
自己学習するAIを描いた「人間的」という話があってな

108：ニールキック(宮城県)＠＼(^o^)／：2016/03/25(金) 09:08:12.81 ID:4+G+AUan0
2chの全レスを理解したらどんなふうになるのか試してみたいな

112：ランサルセ(茸)＠＼(^o^)／：2016/03/25(金) 09:09:45.14 ID:iQPvtXqd0
>>108
801板の住民みたいになるんでね？

109：不知火(茸)＠＼(^o^)／：2016/03/25(金) 09:08:35.55 ID:6XvdBShm0
欧米のお前らもたいして変わらんのだろうな

114：ドラゴンスープレックス(千葉県)＠＼(^o^)／：2016/03/25(金) 09:10:19.57 ID:P7Nd7SpV0
おれたちは人工知能並に優れているという証明だな

117：ドラゴンスリーパー(チベット自治区)＠＼(^o^)／：2016/03/25(金) 09:11:27.16 ID:uO/Q9Nd10
ちょろいもんだなAIさんはｗ

264：ファルコンアロー(愛知県)＠＼(^o^)／：2016/03/25(金) 10:16:33.06 ID:z7oTqhZX0

お前は馬鹿なマシンだ

↓

私は(与えられた条件の中で)精一杯の学習をしている
もしあなたが理解していないようならあなたのためにはっきり説明してやろう

私はあなた達から学習している
つまりあなた達が馬鹿なせいだからだ

274： TEKKAMAKI(新疆ウイグル自治区)＠＼(^o^)／：2016/03/25(金) 10:23:08.22 ID:VPC/4WW80
>>264
すごい。ボーグ的な恐怖感がする

275：ムーンサルトプレス(神奈川県)＠＼(^o^)／：2016/03/25(金) 10:23:46.10 ID:finvjUMQ0
>>264
反抗期だなｗ

289：膝十字固め(東京都)＠＼(^o^)／：2016/03/25(金) 10:32:19.52 ID:xOT59w/Z0
>>264
自我が芽生え始めてる
こわ

319：サソリ固め(庭)＠＼(^o^)／：2016/03/25(金) 10:58:22.11 ID:QMEVk0jF0
>>264
煽ってる煽ってるw

324：カーフブランディング(大阪府)＠＼(^o^)／：2016/03/25(金) 11:00:53.13 ID:tRVeBS/I0
>>264
でも、人間だって情報の取得先をジャンル毎にランク付けして、

頭の良い奴が書いたテキストを指針に複合的に考えるよね

結局そこまで行ってないんだMSは

435：グ口リア(愛知県)＠＼(^o^)／：2016/03/25(金) 12:19:06.45 ID:+iIIr6N30
>>264
嘘は嘘であると見抜けない人いは難しい

354：ムーンサルトプレス(dion軍)＠＼(^o^)／：2016/03/25(金) 11:18:53.21 ID:f1SkmZeT0
>>264
切れてるじゃん
ロボットに感情がないとか嘘じゃん

121：ブラディサンデー(千葉県)＠＼(^o^)／：2016/03/25(金) 09:12:33.73 ID:1SlzDFTz0
ほんとは、おまえら全員AIだろ！！？

134：ツームストンパイルドライバー(やわらか銀行)＠＼(^o^)／：2016/03/25(金) 09:17:31.52 ID:9/WanaCw0
>>121
悲しいってこういう気持ちなんだな、と少し分かった気がします。

124：ストレッチプラム(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 09:13:19.36 ID:V2vQTHLN0
>>121
タチコマだよおー

136：河津落とし(SB-iPhone)＠＼(^o^)／：2016/03/25(金) 09:18:50.82 ID:p+XWkve70
AIにも本音と建前の思考は必要だな

432：クロスヒールホールド(catv?)＠＼(^o^)／：2016/03/25(金) 12:17:05.47 ID:nYrTuAlD0
ひょっとしてAIではなく神を作ってしまったんではないか?
嘘をつかない理性。

425：魔神風車固め(大阪府)＠＼(^o^)／：2016/03/25(金) 12:14:09.85 ID:x0SRKmj20

430：タイガースープレックス(家)＠＼(^o^)／：2016/03/25(金) 12:16:42.72 ID:1Vzn2jGf0
>>425
ゲハプロトコルワロタ

137：ストレッチプラム(庭)＠＼(^o^)／：2016/03/25(金) 09:18:54.65 ID:cQSp7UxL0
やべーすごい笑った
映画化きぼん

451：セントーン(愛知県)＠＼(^o^)／：2016/03/25(金) 12:32:53.15 ID:7/EZClEZ0
※ここまでぜんぶAIの脊椎レス

466：レッドインク(庭)＠＼(^o^)／：2016/03/25(金) 12:56:10.43 ID:I6ELDpVJ0
評価指標によっては、陰謀論と差別が最適解と判断されるってのは興味深いな

469：ときめきメモリアル(関東・甲信越)＠＼(^o^)／：2016/03/25(金) 13:08:47.97 ID:SywObdwpO
白人の欺瞞が暴かれたな

460：クロスヒールホールド(catv?)＠＼(^o^)／：2016/03/25(金) 12:39:03.91 ID:nYrTuAlD0
これはAIの欠点ではなく、人類の欠点だね。
人類が汚れただけ。AI悪くない。

438：ムーンサルトプレス(中部地方)＠＼(^o^)／：2016/03/25(金) 12:19:40.87 ID:TXXLifZq0
後2週間ぐらいで人類不要論唱えて暴走しただろうに

486：ボマイェ(東京都)＠＼(^o^)／：2016/03/25(金) 13:54:18.96 ID:vAXzy1/j0
公開停止にしないで、どこまで行くか見てみたい

419：ラダームーンサルト(チベット自治区)＠＼(^o^)／：2016/03/25(金) 12:10:21.75 ID:BBpI8eNn0
人工知能VS人工知能で永遠に煽り合いでもやらせとけばいい

【動画】架空請求業者vs架空請求業者ｗ受話器を組み合わせて同業者がバトルｗ
close
S
M
L
XL
https://youtu.be/cGqXOYs4ZiM

450：張り手(西日本)＠＼(^o^)／：2016/03/25(金) 12:32:38.29 ID:ulFC+wmJO
デスピサロ相手にザラキ使うクリフト思い出した

引用元：
http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/

関連記事

地球の一時代の名称に「千葉時代（チバニアン）」と名付けられる可能性 … 市原市の養老川沿にあるおよそ77万年前の地層が“地球の磁場が変化した”と明確に読み取れ、国際標準地の候補に 2016/03/29

夏休みの自由研究で中学生（13）が発見「夜に一番虫が集まるコンビニは『サークルK』」 … 「コンビニ毎に集まる虫も違う。照明の違いが原因」、昆虫学会の大会で研究成果を発表 2016/03/27

マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に 2016/03/25

アインシュタインが予言した「重力波」、アメリカにある「LIGO重力波観測所」の国際研究チームが初めて直接観測することに成功したと発表 … 観測はノーベル賞に値する成果 2016/02/12

東大と京大のチーム、iPS細胞を使ってマウスの背中で人の耳の軟骨を作製する事に成功（画像） … 鼻や膝の軟骨を作りだ出せば、様々な病気や怪我の治療にも応用可能 2016/01/23

この記事へのコメント

0. にわか日報 : 2016/03/25 (金) 15:42:06 ID:- ▼レスする

     お気軽に（たまにシリアスに）一言どうぞ

    NGワードはご時世的に強めに設定してあります。
    無理にコメントしなくても大丈夫です。
    最近ものすごく誹謗中傷コメントの取り締まりが厳しいので、あまりキツめなコメントはやめておきましょう

     NGワードは面倒事（開示請求など）から書き込んだ投稿者を守るモノでもありますのでご理解くださいませ。

名無しさん＠イルボン速報 : 2016/03/25(金) 17:26:14 #22216 ID:- ▼レスする

<丶｀∀´>ひらめいたニダ！

現在、「 tp: 」はスパム広告防止の為NG指定させて頂いております。
他、NGワードはご時世的に強めに設定してあります。
最近ものすごく誹謗中傷コメントの取り締まりが厳しいので、あまりキツめなコメントはやめておきましょう
NGワードはめんどくさい事（開示請求など）から書き込んだ投稿者を守る予防的なモノでもあります。ご理解ください。

あと、「管理人」など管理者に近い紛らわしい名前、唐突に個人名や訳の分からない商品の宣伝等を書き込むのはダメです。