AIは女性への偏見を悪化させるか？＠欧州労連

世の中にはいろんなAI（人工知能）論がありますが、欧州労連（ETUC)が昨日アップした「Artificial Intelligence will it make bias against women worse?」（AIは女性への偏見を悪化させるか？）というリーフレットは、興味深い論点を提起しています。

https://www.etuc.org/sites/default/files/publication/file/2020-02/ese-AI-gender_A4.pdf

AIが学習するビッグデータは世の中の姿を映し出しているので、AIが素直に学習すればするほど、そこに含まれる差別や偏見も素直に吸収することになるわけです。そこで、

Workers and their representatives should be informed,　consulted and participate in the whole process　of implementing AI systems at work 

労働者とその代表は、職場へのAIシステムの実施の全プロセスについて情報提供され、協議を受け、参加すべきである。

Workers must have the guarantee of a ‘right of explanation’ when AI systems are used in human-resource procedures, such as recruitment, promotion or dismissal, with a procedure to appeal to a human about decisions made about them by AI. 

労働者は、AIシステムが採用、昇進、解雇等の人的資源手続きに使われる際には、AIによって彼らになされる意思決定について生身の人間に訴える手続きを伴う「弁明の権利」を保障されなければならない。

というか、これって別に男女差別や偏見だけの話じゃなく、およそあらゆる人間に関わる偏見に及ぶ話ですねえ。