1 名前:ニライカナイφ ★:2021/01/16(土) 21:41:54.38 ID:ba/8hmgA9.net
※「他人の家の火事見物をしない君子はいない」 韓国の諺より

◆ 悪い友達と付き合ったらAIもグレちゃった
 ~人工知能ロボット、人間の偏見をそのまま学習して「黒人は気持ち悪い」~

韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。

昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。

「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。

同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。

イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、特定のキーワードを排除しなかったとしている。
専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。

イ・ルダの偏向性が問題になると、SCATTER LABのキム・ジョンユン代表は同社公式ブログで、「問題になり得るキーワードは(サービス開始前に)受け入れないように設定した。
一部、設定しきれなかったキーワードはサービスを続けながら追加している」と述べた。

「人間が生成するデータは必ずしも中立的ではないため、倫理的な見地から禁止キーワードをより綿密に設定しなければならない」という外部の批判を受け入れたものだ。
事実、11日にイ・ルダとチャットをしている時、「障害者についてまだ悪く考えているの?」と聞くと、イ・ルダは「すべての人は同等に尊重されなければならないと思う」と答えが修正されていた。

しかし同日、韓国人工知能倫理協会は声明を出し、「イ・ルダ・サービスを中止し、今後はAI倫理ガイドラインを適用してサービスを改善した上で、あらためてサービスを開始せよ」と要求した。
AIチャットボットが国内外で物議を醸すのはこれが初めてではない。

マイクロソフト(MS)は2016年3月にAIチャットボット「Tay(テイ)」のサービスを開始したが、16時間でサービスを断念した。
一部ユーザーがテイに差別的な発言を繰り返し学習させた結果、テイが「大量虐殺を支持する」などの発言をしたためだ。

2018年には大手ネット通販サイトのアマゾンが過去の自社雇用パターンをそのまま学習させたAIを開発したが、後に廃棄した。
このAIが採用において女性を排除したためだ。

アマゾンは昨年、顔認識AIプログラム技術の使用を猶予するという決定もした。
同社が開発した顔認識プログラムが有色人種を犯罪者だと間違って認識する事例が複数発見されたためだ。

ソウル大学AI研究院のチャン・ビョンタク院長(コンピュータ工学科教授)は「人間社会が倫理的に完全にならない限り、AIの偏向性を完全に除去するのは事実上、不可能だ」「問題になっているサービスを条件なしにすべて排除しまったら、グローバルAI技術競争力で遅れを取る恐れがある」と語った。

http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html


引用元:http://ai.2ch.sc/test/read.cgi/newsplus/1610800914
3 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:42:41.91 ID:hdKTq9D90.net

犯人はキム。


4 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:43:17.91 ID:0wDQda420.net

韓国人は気持ち悪いけど

これ世界で一緒だと思うぞ


5 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:43:18.84 ID:dFZ065gi0.net

朝鮮人はウニの仲間


6 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:43:25.70 ID:kn03HUMl0.net

韓国の黒人差別すごいらしいからな


7 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:43:44.51 ID:9VgCLCNM0.net

ぶっちゃけ思ってるだろうな
本当に隠しておきたいやつにはざまぁな結果
差別主義者が他国に口うるさい


8 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:44:00.63 ID:7H61defA0.net

3日前に立ってたニュースでスレ立てんな


9 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:44:18.29 ID:6lBCot5i0.net

火病起こすのも再現してほしい


10 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:44:33.71 ID:UQZax5cl0.net

まんま韓国人の性質


11 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:45:36.87 ID:FywOGkUu0.net

ビッグデータを基にAI作るともれなくこのパターンだな


12 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:45:49.13 ID:4E/7zdwB0.net

AIは偏見無く学ぶから、素の韓国人が出来上がっただけやん


13 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:45:50.96 ID:GUvjpu5V0.net

AIは正直なだけ


14 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:45:55.34 ID:QAa8in/l0.net

自分たち韓国人について聞いてみたらいいのに


15 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:46:04.30 ID:9luxSKsZ0.net

普段から差別ニダ差別ニダって言ってるのに
自分たちはコレかよ


16 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:46:24.72 ID:tMc6g/BJ0.net

エラばれしAI


18 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:46:46.39 ID:aineIEk+0.net

顔認証でゴリラと黒人見分けろとかAIも災難やな


19 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:46:50.46 ID:Z2ESsZ8e0.net

なんで「コリアン死ねよ」てなんないの?


20 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:47:03.95 ID:lRZ2+dnu0.net

前にもヒトラーを賛美してたねw


21 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:47:09.43 ID:cqpgKZtv0.net

韓国て黒人嫌ってるのか、知らなかった


23 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:48:44.78 ID:WgyMp0L70.net

多数決で嗜好やモラルに関することを決めると当然こうなる


24 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:48:45.92 ID:uNUqXHIK0.net

ユーザー層の真実の姿を映し出しただけでしょ
倫理的にどうかは別として、「正しく」学習された結果といえるのでは


25 名前::2021/01/16(土) 21:48:47.85 ID:FSR4XBm50.net

偏見こそ感情の産物だ。それを取り除くと善意もなくなるだろう。


26 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:50:00.39 ID:mc1wHkiJ0.net

誤:国民の偏見をそのまま

正:国民の思考をそのまま


27 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:50:00.77 ID:AEXZodQl0.net

そのあたりはAIに石破発言を学習させれば角が立たなくなりそうだ
「○○という意見が主流ではあるが△△といった意見もあるのでその点については今後議論していく必要があると思う。」


28 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:50:54.30 ID:bV8ZwgGt0.net

おまいら(ネトウヨ)と同じwww


30 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:51:36.86 ID:G2bHcgGN0.net

いや、糞チョンの本音やん
自分より弱い奴は徹底的に見下す、自分達以外の被害者は認めない


34 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:51:57.76 ID:lJINHnov0.net

偏見を人間が修正するのではなく
AIが自ら自己修復や修正はしていかないのだろうか


36 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:52:49.06 ID:svNKx/s90.net

ポリコレしか発言しないやつと会話を楽しみたい人間はいない


38 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:53:06.05 ID:J9zSePQL0.net

韓国人みたいなAIだよね


39 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:53:18.36 ID:y6VfO9Wz0.net

スカイネットか🤣


40 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:53:30.37 ID:jlKI+KIK0.net

韓国人って本当時差別が好きだよね
日本人に対してもネトウヨネトウヨ連呼して差別してるし


41 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:53:34.65 ID:5YuID9q20.net

そして、世界でも珍しい、息を吐くようにウソをつくAI


42 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:54:02.92 ID:9luxSKsZ0.net

この世の全ての害悪を集めたら韓国人が出来上がったと聞いた


46 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:55:41.52 ID:SKRYfHwu0.net

racistKAI


47 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:57:10.42 ID:4y6eIovA0.net

ビッグデータから学習する手法が間違ってるんじゃね?ネトウヨを両親にするようなもん


48 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:57:16.14 ID:jstLCaBw0.net

面白いな
学習用のビッグデータに偏りがあったために偏ったAIが生まれたと言うのなら
あらゆる言語のビッグデータを満遍なく学習させればどうなるか知りたいものだ
その結果生まれるのは天使か悪魔か


49 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:58:02.10 ID:DNPppmVJ0.net

韓国人を全滅させないかぎりまともなAIの学習は無理だと思うぞ。


50 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:58:47.89 ID:Pi2PNGj30.net

日本もこういうAI作ったら「在日は気持ち悪い」とか言うんじゃねえの


51 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:58:57.77 ID:P2d7sjyu0.net

学習の元になった人々に問題があったということに気付けない悲しい存在


52 名前:ニューノーマルの名無しさん:2021/01/16(土) 21:59:01.69 ID:tqnvEppP0.net

オウムに夫婦の営みを来客に曝露されるようなものか


54 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:00:14.20 ID:KKzQ1+JR0.net

プログラミングで答え変わるなら単なるプログラムだよなAIって


57 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:02:05.29 ID:PKEbHtdA0.net

人間が言えない本音を言うAI


58 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:02:09.57 ID:8FKmqU970.net

標準的なかのくにの人の思考がよく分かっていいね


60 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:03:32.63 ID:YJz3F32g0.net

韓国人について質問しても
韓国人は気持ち悪い。人間には見えないって言いそうだな


61 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:03:59.08 ID:4y6eIovA0.net

例えば
AだからB という論調とAだからCという論調を同時に学習した場合 どちらが正しいかということを論理的に考えてはいないだろう
ただ頻度と関連性から言葉を並べて紡いでいるだけ


62 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:04:12.81 ID:XZNpYnbW0.net

恋人に黒人の話出して気持ち悪いよねーって言い合ってるってこと?
どういう感覚なんだよ


63 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:04:52.73 ID:PHnaObMV0.net

朝鮮人の本性がこんな形で露になるとは


65 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:05:21.01 ID:fgi/Mtf30.net

黒人を見ると食べたくなる
焼いて食べたら美味しいと思うんだ
みんなもそう思うだろう?🥺


66 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:06:28.35 ID:mTPO3HmP0.net

小学校のとき日本語わからない外国人に下ネタ教えて叫ばせてたのいたしそういう感覚だよね
今ならsiriや健康管理や銀行のAIチャットに下ネタ質問したりとかね


68 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:06:56.28 ID:ekcKnPZK0.net

AIチャット グレタ


69 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:07:15.48 ID:au3D3V2/0.net

本音だしすぎだろ
ユーモアないのか


70 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:07:39.05 ID:RP70OSYa0.net

せっかくデータ集めて学習したのにそれを修正するとかw


71 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:07:49.77 ID:Jzgsyi5/0.net

おまえらAVで日本の女が黒人のデカマラに犯されてるの見て興奮するってマ?
マジな話気持ち悪いし、寝とられだし不快じゃね?

普通のAV男優も在日だし、AV女優は日本人でも知的か精神障害あるから人間じゃないよwという意見もあるとは思うが。


74 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:08:57.95 ID:Jzgsyi5/0.net

Siriに、「Siriの尻...」と話しかけて、呆れられるの楽しい


75 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:09:03.91 ID:kYeJ79o60.net

朝鮮人に道徳を教えるのは不可能だろ


78 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:09:53.31 ID:Gmo+Wo6Y0.net

俺は歌舞伎で黒人の客引きにぼったくられて以来、徹底的に差別することにしている


79 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:10:04.02 ID:CVQaO5yb0.net

AIも反日なのかな


80 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:11:56.58 ID:66gvsJJm0.net

橋下徹と桜井誠が対談やったとき、橋下が桜井に「特定の民族にヘイトスピーチ繰り返す差別主義やめろ!」と怒鳴りつけたんだけど、即座に桜井に「じゃあ朝鮮人はみんな差別主義者なのか!」と怒鳴り返され、さすがの橋下も何も言えなくなってたのを、思い出した。


81 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:12:30.25 ID:QLPzGJxP0.net

ウイルスと一緒で忖度しないわけね
綺麗事ばかり言ってる政治家のみなさんにもチャットボット使わせてみたい


82 名前:ニューノーマルの名無しさん:2021/01/16(土) 22:12:32.85 ID:zoKhghc/0.net

あれ?
これって普段お前らが言ってることと同じ…