マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に - にわか日報

マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に : にわか日報

にわか日報

アンテナサイト
まとめサイト

サイトナビ


カウンター

現在 人が閲覧中
Amazon

AfterShokz Aeropex 骨伝導ワイヤレスヘッドホン 防水bluetooth5.0 コズミックブラック


Anker PowerCore Fusion 5000 (5000mAh モバイルバッテリー搭載 USB急速充電器) iPhone、iPad、Android各種対応


高輝度 LED懐中電灯USB充電式 1000ルーメン ズームライト LEDハンディライト コンパクトサイズ IPX6防水 軍用 強力 防災

DAHON(ダホン) Speed Falco
DAHON(ダホン) Speed Falco 20インチ 8speed 折りたたみ自転車 2017年モデル

1_3_201703031034437ac.jpg
tern(ターン) Verge N8 20インチ 8speed 2018年モデル

1_1_20191028102909c48.jpg
パナソニック 口腔洗浄器 ジェットウォッシャー ドルツ 白 EW-DJ61-W

1_1_201904132322236fa.jpg
Yogibo Lounger(ワインレッド) (人をダメにするソファー)


(ラファエロ) Raffaello 一流の革職人が作る ラウンドファスナー長財布 本革 長財布 ダークチョコ)

1_1_2019102810274721c.jpg
萌えニャンコ呼吸ランプ ベッドサイド イルミネーションライト 無段階 調光 USB充電 50時間連続動作 間接照明 ルームライト

3_1_20160416115534fb9.jpg
抱き枕 黒猫 (大) ブラック 大型クッション アリス全長105cm IAC-BPL-244C

2_1_201704191525308a3.jpg
わかんない 半袖Tシャツ

amazon.png
Amazonクーポン→
つーいつーい
最近の記事
アクセスサンクス
30日間全表示
ヘッドライン
2016
03月
25日

マイクロソフト、学習型人工知能会話Bot「Tay」を公開 … SNS等のチャットでユーザーと会話すればするほど賢くなる→ 差別と陰謀論に染まってしまい一日で公開停止に

カテゴリー 科学・雑学・知識  コメント見る コメント (1)
 twit.gif  Share (facebook)  hateb.gif
1: 超竜ボム(庭)@\(^o^)/:2016/03/25(金) 08:26:23.48 ID:ua1S29NB0
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止


マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。
理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

要は昔からある人工無脳チャットボットを機械学習やBingの知識データベースなど最新の技術で高度化し、膨大なユーザーの暇つぶし相手を通じて多くのデータを集め、自然な会話ができる人工知能を目指す実験です。

TayはSNSやチャットサービスを通じて話題を呼び人気になったものの、学習型ボットと見ればなんとか不謹慎な発言をさせようと躍起になるユーザーにも恰好のおもちゃとなってしまい、オウム返しも含めてとても擁護できない発言を繰り返すようになってしまったため、マイクロソフトは公開からわずか一日で停止に追い込まれました。

マイクロソフトではこの事態に対して、Tayはあくまで技術的な実験であると強調したうえで、「Tayの会話スキルを悪用して不適切な発言をさせようとする、一部のユーザーによる組織的な働きかけ」があったことから「調整」のためオフラインにした、と述べています。

「学習する人工知能をネットに放ったら、学んだのは偏見と陰謀論だった」といえば、いかにもネットの闇やら特定サービスのユーザー民度を反映したように聞こえますが、実際にはマイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱だったのが実態です。(※抜粋)


engader 016年03月25日 06時18分
http://japanese.engadget.com/2016/03/24/ai-tay/
引用元スレタイ:マイクロソフト「ツイッターで会話して学習するAIを公開したよ」 → AIが差別と陰謀論にハマって公開停止



※ 見ておきたい記事 (外部リンク) :  2016/03/25 (金) 15:42:06 ID:niwaka

 



40: スリーパーホールド(茸)@\(^o^)/:2016/03/25(金) 08:39:49.60 ID:bgJH65q60
ネットは広大だわ (遠浅)

2: グ口リア(東京都)@\(^o^)/:2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0
AIはネトウヨ

4: マシンガンチョップ(庭)@\(^o^)/:2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0
そこからさらに学習させていけばええんちゃうか

6: フェイスクラッシャー(SB-iPhone)@\(^o^)/:2016/03/25(金) 08:28:53.95 ID:h9xJuCji0
ほっといたらSFみたいに人類は不要とか言い出しそうだな

292: スターダストプレス(庭)@\(^o^)/:2016/03/25(金) 10:36:36.51 ID:pHPtZtXv0
>>6
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう



22: パイルドライバー(神奈川県)@\(^o^)/:2016/03/25(金) 08:33:11.37 ID:yB/28rb50
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww


7: TEKKAMAKI(長崎県)@\(^o^)/:2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0
物分りのいい赤ちゃんだからな。
ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。

8: ハーフネルソンスープレックス(catv?)@\(^o^)/:2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな


10: キン肉バスター(愛知県)@\(^o^)/:2016/03/25(金) 08:29:30.33 ID:LXyhOizB0
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

453: キングコングニードロップ(茸)@\(^o^)/:2016/03/25(金) 12:33:12.76 ID:XUfz8PXH0
>>10
手塚治虫の火の鳥にそんなストーリーがあったよな



21: フェイスクラッシャー(やわらか銀行)@\(^o^)/:2016/03/25(金) 08:33:08.29 ID:UtUejeBr0
>>10
マザーコンピューター
 「私は日々、人が発している言葉を聴き考えました。
 そして私は結論に至ったのです。人類は滅びたがっていると」



455: 垂直落下式DDT(新疆ウイグル自治区)@\(^o^)/:2016/03/25(金) 12:34:43.16 ID:2AMP0HCW0
>>21
くわい



12: テキサスクローバーホールド(庭)@\(^o^)/:2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0
これ人工知能が危険な思想に陥りかねないってことが立証されたわけで
すごい怖いんだけど


24: ビッグブーツ(SB-iPhone)@\(^o^)/:2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい



17: ジャンピングパワーボム(新疆ウイグル自治区)@\(^o^)/:2016/03/25(金) 08:32:14.55 ID:uwMUsVJ/0
人工無能ではよくある事

26: ドラゴンスープレックス(dion軍)@\(^o^)/:2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0
ついこの前も別の人工知能が人類滅ぼすとか言ってたな

51: 超竜ボム(東京都)@\(^o^)/:2016/03/25(金) 08:42:01.95 ID:gLKBlK+Q0
二つな貴重な結論を得られた
・アホが多い
・アホほどよく喋りる


52: ニールキック(茸)@\(^o^)/:2016/03/25(金) 08:42:03.07 ID:qrt5Qt7Q0
ガチでスカイネットになりそう

86: パイルドライバー(神奈川県)@\(^o^)/:2016/03/25(金) 09:00:13.64 ID:yB/28rb50
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、
途中から人種差別的ツイートをエンジニアが一気に削除し、
学習能力にも制限を加えると急にAIがフェミニストになったそうだ。


88: ダイビングヘッドバット(兵庫県)@\(^o^)/:2016/03/25(金) 09:01:25.44 ID:+ZjuF19M0
>>86
フェミニストも声がでかいと



92: クロスヒールホールド(四国地方)@\(^o^)/:2016/03/25(金) 09:02:16.11 ID:EnjA3QB80
>>86
中道中庸ってむずかしいなぁw



96: ジャンピングDDT(神奈川県)@\(^o^)/:2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな



89: ナガタロックII(東京都)@\(^o^)/:2016/03/25(金) 09:01:34.63 ID:t9iXCOdt0
バカの集まりを学習してるんだからそうなるわなwww

445: タイガードライバー(芋)@\(^o^)/:2016/03/25(金) 12:23:58.72 ID:6qv1nSeY0
447: マシンガンチョップ(愛媛県)@\(^o^)/:2016/03/25(金) 12:25:44.48 ID:MX+9vlSC0
素直過ぎるんだな

231: 中年'sリフト(栃木県)@\(^o^)/:2016/03/25(金) 10:02:30.61 ID:+sK/ul0+0


236: ジャンピングパワーボム(東京都)@\(^o^)/:2016/03/25(金) 10:04:54.62 ID:6CO9kncC0
>>231
ひでええww



238: タイガースープレックス(家)@\(^o^)/:2016/03/25(金) 10:06:12.02 ID:1Vzn2jGf0
>>231
ワロタ



246: 頭突き(東京都)@\(^o^)/:2016/03/25(金) 10:09:16.48 ID:eT0B8BZA0
>>231
これは酷い



251: タイガースープレックス(千葉県)@\(^o^)/:2016/03/25(金) 10:12:25.67 ID:CiJdOpnB0
>>231
ワロタw



260: ミドルキック(東京都)@\(^o^)/:2016/03/25(金) 10:15:18.52 ID:sn5uM0oE0
>>231
4chanの連中の仕業かw



273: ムーンサルトプレス(神奈川県)@\(^o^)/:2016/03/25(金) 10:21:34.57 ID:finvjUMQ0
>>231
4民「人類はクソ、基地外だから滅亡する運命」
AI 「え?それマジ?」
4民「マジ、本当に人類はクソ。証拠は地球の環境破壊や絶えない殺し合い。」
AI 「oh.......」

どうせこんなのだろw



287: 膝十字固め(東京都)@\(^o^)/:2016/03/25(金) 10:31:24.58 ID:xOT59w/Z0
>>231
4chan糞ワロス



232: バーニングハンマー(SB-iPhone)@\(^o^)/:2016/03/25(金) 10:03:13.02 ID:qqbPiUHf0
嘘を嘘と見抜けなくてはな。

235: スターダストプレス(庭)@\(^o^)/:2016/03/25(金) 10:04:59.66 ID:2b1nV2ft0
愛を学べよ

94: 16文キック(関東・甲信越)@\(^o^)/:2016/03/25(金) 09:03:04.06 ID:FKAvqH9UO
吹いたwww

95: ウエスタンラリアット(埼玉県)@\(^o^)/:2016/03/25(金) 09:03:32.13 ID:ExshX7eS0
観たかったなw

240: タイガースープレックス(家)@\(^o^)/:2016/03/25(金) 10:06:42.33 ID:1Vzn2jGf0
AIにも嫌われるユダヤ人

471: ムーンサルトプレス(dion軍)@\(^o^)/:2016/03/25(金) 13:10:02.00 ID:f1SkmZeT0
ユダヤ「言ったらアカーン」
世界「知ってた」

29: トペ コンヒーロ(北海道)@\(^o^)/:2016/03/25(金) 08:35:11.08 ID:cUVw9VvW0
面白すぎるわ

30: タイガードライバー(やわらか銀行)@\(^o^)/:2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0
2chで勉強させよう

76: キチンシンク(大阪府)@\(^o^)/:2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな



404: キドクラッチ(愛知県)@\(^o^)/:2016/03/25(金) 12:04:29.85 ID:SmAZfSKd0
>>30
嘘を嘘と(ry



364: ファイナルカット(禿)@\(^o^)/:2016/03/25(金) 11:24:42.20 ID:mvnUvCBA0
>>30
今のチョンモメンと何ら変わらないのが一匹ふえるだけやろ



33: グ口リア(東京都)@\(^o^)/:2016/03/25(金) 08:37:22.80 ID:AYcJCUEO0
AIにv速を見せたらどうなるかな?
典型的v速民になる未来しか見えないけど

91: フェイスクラッシャー(中国地方)@\(^o^)/:2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0
>>33
物凄い速さで>2に適切な巨大AA貼る事にリソース全振りしそう



285: 膝十字固め(庭)@\(^o^)/:2016/03/25(金) 10:30:12.08 ID:zXmlDYMD0
>>76
>>91
ワロタw
ν速希望の星じゃないかww



41: フライングニールキック(愛知県)@\(^o^)/:2016/03/25(金) 08:39:51.88 ID:yo0HXoNJ0
放火業者の
テンプレコピペ撒く
botと
パフォーマンス一緒

学習させる必要が無かった
学習方法が業者や底辺と同じであった
学習場所が不適切だった

42: バックドロップホールド(新疆ウイグル自治区)@\(^o^)/:2016/03/25(金) 08:39:51.25 ID:cRoPIIJR0
きわめて人間的でよろしい

54: オリンピック予選スラム(兵庫県)@\(^o^)/:2016/03/25(金) 08:43:20.26 ID:AaU3O0xm0
ネットでオープンにしたらそうなるに決まってるだろw

55: ランサルセ(静岡県)@\(^o^)/:2016/03/25(金) 08:43:29.12 ID:/kug/olT0
実験的には成功だろこれ

249: ナガタロックII(SB-iPhone)@\(^o^)/:2016/03/25(金) 10:10:28.38 ID:acxa/pkB0
これが人間の性だからな
移民もそうだが、偽善の上部が通用するのは
利害に大きく影響が出るリアルだけだ

341: 男色ドライバー(長崎県)@\(^o^)/:2016/03/25(金) 11:09:10.85 ID:56fQrnD+0
最近は人間を偽装した手の込んだアンケ収集システムもあるらしい



本音とか2chで十分だろうとはならないのか

350: フルネルソンスープレックス(庭)@\(^o^)/:2016/03/25(金) 11:14:26.29 ID:NASQJiJY0
>>341
Bot対策自動応答AIアプリの登場で
人間が介在しない虚構のアンケ市場に振り回されるリサーチ会社
なんて想像したら胸が熱くなるな



82: スターダストプレス(東京都)@\(^o^)/:2016/03/25(金) 08:57:17.09 ID:W565oJy70
面白い
星新一のショートショートにありそう

383: 膝十字固め(東日本)@\(^o^)/:2016/03/25(金) 11:47:09.49 ID:LrNUCHB1O
>>82
自己学習するAIを描いた「人間的」という話があってな



108: ニールキック(宮城県)@\(^o^)/:2016/03/25(金) 09:08:12.81 ID:4+G+AUan0
2chの全レスを理解したらどんなふうになるのか試してみたいな

112: ランサルセ(茸)@\(^o^)/:2016/03/25(金) 09:09:45.14 ID:iQPvtXqd0
>>108
801板の住民みたいになるんでね?



109: 不知火(茸)@\(^o^)/:2016/03/25(金) 09:08:35.55 ID:6XvdBShm0
欧米のお前らもたいして変わらんのだろうな

114: ドラゴンスープレックス(千葉県)@\(^o^)/:2016/03/25(金) 09:10:19.57 ID:P7Nd7SpV0
おれたちは人工知能並に優れているという証明だな

117: ドラゴンスリーパー(チベット自治区)@\(^o^)/:2016/03/25(金) 09:11:27.16 ID:uO/Q9Nd10
ちょろいもんだなAIさんはw

264: ファルコンアロー(愛知県)@\(^o^)/:2016/03/25(金) 10:16:33.06 ID:z7oTqhZX0


お前は馬鹿なマシンだ



私は(与えられた条件の中で)精一杯の学習をしている
もしあなたが理解していないようならあなたのためにはっきり説明してやろう

私 は あ な た 達 か ら 学 習 し て い る
つ ま り あ な た 達 が 馬 鹿 な せ い だ か ら だ


274: TEKKAMAKI(新疆ウイグル自治区)@\(^o^)/:2016/03/25(金) 10:23:08.22 ID:VPC/4WW80
>>264
すごい。ボーグ的な恐怖感がする



275: ムーンサルトプレス(神奈川県)@\(^o^)/:2016/03/25(金) 10:23:46.10 ID:finvjUMQ0
>>264
反抗期だなw



289: 膝十字固め(東京都)@\(^o^)/:2016/03/25(金) 10:32:19.52 ID:xOT59w/Z0
>>264
自我が芽生え始めてる
こわ



319: サソリ固め(庭)@\(^o^)/:2016/03/25(金) 10:58:22.11 ID:QMEVk0jF0
>>264
煽ってる煽ってるw



324: カーフブランディング(大阪府)@\(^o^)/:2016/03/25(金) 11:00:53.13 ID:tRVeBS/I0
>>264
でも、人間だって情報の取得先をジャンル毎にランク付けして、

頭の良い奴が書いたテキストを指針に複合的に考えるよね


結局そこまで行ってないんだMSは



435: グ口リア(愛知県)@\(^o^)/:2016/03/25(金) 12:19:06.45 ID:+iIIr6N30
>>264
嘘は嘘であると見抜けない人いは難しい



354: ムーンサルトプレス(dion軍)@\(^o^)/:2016/03/25(金) 11:18:53.21 ID:f1SkmZeT0
>>264
切れてるじゃん
ロボットに感情がないとか嘘じゃん



121: ブラディサンデー(千葉県)@\(^o^)/:2016/03/25(金) 09:12:33.73 ID:1SlzDFTz0
ほんとは、おまえら全員AIだろ!!?

134: ツームストンパイルドライバー(やわらか銀行)@\(^o^)/:2016/03/25(金) 09:17:31.52 ID:9/WanaCw0
>>121
悲しいってこういう気持ちなんだな、と少し分かった気がします。



124: ストレッチプラム(SB-iPhone)@\(^o^)/:2016/03/25(金) 09:13:19.36 ID:V2vQTHLN0
>>121
タチコマだよおー



136: 河津落とし(SB-iPhone)@\(^o^)/:2016/03/25(金) 09:18:50.82 ID:p+XWkve70
AIにも本音と建前の思考は必要だな

432: クロスヒールホールド(catv?)@\(^o^)/:2016/03/25(金) 12:17:05.47 ID:nYrTuAlD0
ひょっとしてAIではなく神を作ってしまったんではないか?
嘘をつかない理性。


425: 魔神風車固め(大阪府)@\(^o^)/:2016/03/25(金) 12:14:09.85 ID:x0SRKmj20
430: タイガースープレックス(家)@\(^o^)/:2016/03/25(金) 12:16:42.72 ID:1Vzn2jGf0
>>425
ゲハプロトコルワロタ



137: ストレッチプラム(庭)@\(^o^)/:2016/03/25(金) 09:18:54.65 ID:cQSp7UxL0
やべーすごい笑った
映画化きぼん

451: セントーン(愛知県)@\(^o^)/:2016/03/25(金) 12:32:53.15 ID:7/EZClEZ0
※ここまでぜんぶAIの脊椎レス

466: レッドインク(庭)@\(^o^)/:2016/03/25(金) 12:56:10.43 ID:I6ELDpVJ0
評価指標によっては、陰謀論と差別が最適解と判断されるってのは興味深いな

469: ときめきメモリアル(関東・甲信越)@\(^o^)/:2016/03/25(金) 13:08:47.97 ID:SywObdwpO
白人の欺瞞が暴かれたな

460: クロスヒールホールド(catv?)@\(^o^)/:2016/03/25(金) 12:39:03.91 ID:nYrTuAlD0
これはAIの欠点ではなく、人類の欠点だね。
人類が汚れただけ。AI悪くない。


438: ムーンサルトプレス(中部地方)@\(^o^)/:2016/03/25(金) 12:19:40.87 ID:TXXLifZq0
後2週間ぐらいで人類不要論唱えて暴走しただろうに

486: ボマイェ(東京都)@\(^o^)/:2016/03/25(金) 13:54:18.96 ID:vAXzy1/j0
公開停止にしないで、どこまで行くか見てみたい

419: ラダームーンサルト(チベット自治区)@\(^o^)/:2016/03/25(金) 12:10:21.75 ID:BBpI8eNn0
人工知能VS人工知能で永遠に煽り合いでもやらせとけばいい


【動画】 架空請求業者vs架空請求業者w 受話器を組み合わせて同業者がバトルw
https://youtu.be/cGqXOYs4ZiM
450: 張り手(西日本)@\(^o^)/:2016/03/25(金) 12:32:38.29 ID:ulFC+wmJO
デスピサロ相手にザラキ使うクリフト思い出した

引用元:
http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/


ピックアップリンク
--
この記事へのコメント
0. にわか日報 : 2016/03/25 (金) 15:42:06 ID:- ▼レスする

     お気軽に(たまにシリアスに)一言どうぞ

  1. 名無しさん@イルボン速報 : 2016/03/25(金) 17:26:14 #22216  ID:- ▼レスする

    <丶`∀´>ひらめいたニダ!

     ID発行(省略可): 

現在、「 tp: 」はスパム広告防止の為NG指定させて頂いております。
他、NGワードはFCブログ準拠です。

あと、唐突に個人名や訳の分からない商品の宣伝等を書き込むのはダメです
サイト内新着記事:
このブログについて

ご紹介頂きました。ありがとうございます。
芸能人ブログ全集
情報屋さん。
変人窟(HJK)
HK-DMZ PLUS.COM
GIGAZINE
(敬称略)

minna_09.png にわか日報へようこそ
このブログはリンクフリーです
是非ともご贔屓に。
※ このブログについて
※ お問い合わせ

にわか日報をフォローする
このブログをはてなブックマークに追加

rss



https://uni.open2ch.net/
記事へのコメント
12/14 21:18 名も無き魔人
12/14 13:52 *
12/14 13:47 *
12/14 09:57 コンテ
12/14 01:40   


注目記事(外部リンク)
免責事項
shobon_02.png
当サイト及び外部リンク先のサイトを利用したことにより発生した、いかなる損失・損害についても当サイトは一切の責任を負いません。
又、このサイトに掲載されている記事・画像等に於いて、著作権・肖像権侵害等の不都合がございましたら、こちらのメールフォームにて御連絡下さい。
確認後、迅速に対応いたします。

連絡先:
niwaka55(あ)gmail.com