アルゴリズムバイアス

アルゴリズムバイアスとは、AIシステムなどの自動化されたツールが、一部の人たちにとって不公平によい、または悪い結果を出すことです。データの中のかたよった例や足りない例が原因のことがよくあります。

AIは過去のデータから学びます。そのデータに一部の人があまり出てこなかったり、過去の不公平な判断が映っていたりすると、モデルはそのパターンを学んでくり返します。たとえば、ある肌の色、なまり、名前ではうまく働かないことがあります。

バイアスは、問題の立て方からも生まれます。システムに何を予測させるか、どの情報を使うか、だれが結果を確かめるか。ふつうはわざとではないので、テストして見つける必要があります。

公平なAIには、多様なデータ、いろいろなグループでのテスト、大事な判断への人による確認が必要です。自分についての自動の判断がどう行われたかをたずねる権利がある国や地域も多くあります。