機械学習システム（AI）に人権の尊重を求める「トロント宣言」が発表される

　2018年5月16日、カナダ、トロントにおいて、人権や技術関連の団体が機械学習の基準についての新たな宣言を公表した。

　それは政府およびハイテク企業に対して、機械学習システムのアルゴリズムが平等と差別禁止という基本原則を尊重するよう確保することを求めている。

　「トロント宣言」と呼ばれる文書は、機械学習が差別することを防ぎ、また場合によっては既存の人権に対する違反を防止する義務について述べている。

機械学習システムから人権を守る

　本宣言は、デジタル・人権団体が毎年行なっている「ライツコン（RightsCon）」の中で発表された。

　「我々はこうした技術が人間個人や人権に与える影響に注視し続けねばならない」と序文で述べられている。「機械学習システムの世界において、人権侵害に対する責任は誰が負うのであろうか？」

　トロント宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマンライツ・ウォッチ、ウィキメディア財団が署名しており、今後数週間のうちにさらに参加者が増える見込みだ。

　実際にこれまでの研究から、人間が作り出したデータを学習させたAIは、差別や偏見など、人間の悪しき性質が再現されることが証明されている。

・人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究） : カラパイア

法的な拘束力はないが企業や政府の指針に

　宣言は法的な拘束力を持つものではなく、政府やハイテク企業がこうした問題に対応する上での指針になることが意図されている。

　宣言が具体的な開発作業においてどのように適用されるのかは不明であるが、今後データセットや入力に関するより詳細な推奨事項が公表されるかもしれない。

違反した際の個人救済方法も

　一般的な差別の禁止のみならず、アルゴリズムがそれに違反した場合に個人の権利を救済する手段についても触れられている。

　例えば「それによる不利益な個人または社会的影響を是正するための明白かつ独立の、可視的プロセス」や「利用可能かつ効果的な不服申し立ておよび司法審査」などが宣言では提案されている。

　現実的には、一般的なアルゴリズムの仕組みにより透明性が求められることを意味する。

　「透明性は説明責任と一体のものだ。ユーザーが製品に対して快適でいられるようにするといった単純なことだけではなく、AIが人間の尊厳に有益な作業を行うメカニズムであるよう確保することでもある」とヒューマン・ライツ・ウォッチのダイナ・ポケンプナー氏は説明する。

既に多くの政府は人権保護に向け動き出している

　多くの政府はすでに似たような指針に沿って動き出している。ライツコンのオープニングセッションでは、カナダの遺産大臣が、アルゴリズムの透明化はオンラインでの広範囲な情報交換において不可欠であると発言した。

　「私たちは民主的なインターネットを信じる。ゆえに私たちにとって、アルゴリズムの透明化はきわめて重要だ。レシピを知る必要はないが、素材は知らねばならない」

References:accessnow / theverge/ written by hiroching / edited by parumo
あわせて読みたい
やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す


人工知能（AI)が人類を驚愕させた10の瞬間


人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）


ロボットや人工知能に電子人として法的地位を与える。ヨーロッパで可決された決議に警告を促す専門家たち


技術特異点はもうはじまっている！？GoogleのAIが、人間が作るAIの性能をはるかに超えるAIを生み出すことに成功