機械学習システムにおける人権の平等を目指す「トロント宣言」 | スラド

2018/05/25 20 users スラド 人権 トロント 機械学習システム 人種差別

あるAnonymous Coward曰く、 機械学習システムで人権を傷つけた場合、誰が責任を負うのだろうか。MSのAI「Tay」のようにユーザーとのやり取りから人種差別や陰謀論を学習し、AIが差別的な発言を行う 事例 は存在している。 米国時間5月16日、人権と技術グループの連合体は、こうした問題を解決するためにトロントで機械学習に関する新しい宣言を発表した。この宣言は トロント宣言 と呼ばれ、機... 続きを読む

MS、新チャットボット「Zo.ai」を正式に発表 - CNET Japan

2016/12/14 11 users CNET Japan 発表 Kik チャットボット 公開直後

Microsoftが、最新チャットボット「 Zo.ai 」を正式に発表した。また、同社のさまざまなAI関連プロジェクトの情報を掲載した新しいAIウェブサイトを公開している。 1週間前、MicrosoftがZoへの先行アクセスを「Kik」ユーザーに提供していると 報じられた 。Zoは、失敗に終わったMicrosoftの「Tay.ai」に代わるチャットボットである。同社は2016年、Tayの公開直後に... 続きを読む

マイクロソフトのAIチャットボット「Zo」が先行公開--政治の話には乗らず - CNET Japan

2016/12/06 10 users Kik マイクロソフト AIチャットボット ヘイト 政治

Microsoftが、 最新の人工知能（AI）チャットボット「Zo.ai」への先行アクセス を、メッセージアプリ「Kik」のユーザー向けに提供している。 Zoは、Microsoftが3月に短期間で公開を停止した「Tay.ai」チャットボットの後継だ。Tayはユーザーによって人種差別やヘイトに満ちた発言をするように誘導され、停止に追い込まれた。今回のZoについては、 MSPowerUser.com ... 続きを読む

Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止 - GIGAZINE

2016/03/25 340 users GIGAZINE ヒトラー Microsoft 人工知能 地獄

Microsoftは会話理解を研究する目的でボット「 Tay 」をTwitter・GroupMe・Kikでリリースしたのですが、登場から数時間後に停止させました。停止の原因は、ユーザーとの会話を通じて人種差別や性差別、暴力表現などを学習し、不適切にもほどがある発言を連発したことにあります。 Tay, Microsoft's AI chatbot, gets a crash course in ra... 続きを読む

マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Engadget Japanese

2016/03/24 602 users マイクロソフト 陰謀論 Engadget Japanese

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 BY Ittousai 2016年03月25日 06時18分 0 マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。 発言は直接引用するのも憚られます... 続きを読む