Výzkumníci z univerzity v Melbourne vytvořili interaktivní projekt, který by ilustruje potenciální následky analyzování tváře umělou inteligencí. S Biometric Mirror (Biometrické zrcadlo) si mohou účastníci stoupnout před obrazovkou a získat sken od umělé inteligence. Algoritmus přesně identifikuje řadu charakteristik. Některé se zdají být zcela normální a neškodné, jako je pohlaví, věk a etnická příslušnost. Jiní se zdají mnohem subjektivnější, jako laskavost, emoční stabilita, odpovědnost či přitažlivost.
Software se naučil identifikovat takové subjektivní rysy tím, že asimiluje data vystupování člověka založená na předem získaných datech psychografických údajů. Proto přebírá předsudky těchto poskytovatelů dat. Niels Wouters, specialistka na digitální média na univerzitě v Melbourne, vysvětluje: „Algoritmus je správný… ale informace, které poskytuje, nejsou přesné, protože jsou založeny na subjektivní informaci.“
Taková technologie se již používá k účelům, jako jsou personalizované reklamní kampaně nebo předpovědi výsledků. Co se Biometrické zrcadlo pokouší odhalit, jsou potenciální důsledky takových technologií, které se používají k předpovědi úrovně agrese, sexuálních preferencí nebo jiných vysoce osobních charakteristik. Spoléhat se na potenciálně zaujaté systémy ovlivňující naše rozhodnutí týkající se bezpečnosti, zaměstnanosti nebo zdravotních záležitostí by mohlo přispět k sociální diskriminaci. Například software s umělou inteligencí pro nábor lidí do práce může identifikovat osobu jako emocionálně nestabilní, a proto ji nedoporučí na pozici manažera. Jedinci by ani neměli příležitost zpochybnit toto rozhodnutí. Tyto etické hranice rychle vyžadují větší pozornost, protože do našeho života začleňujeme čím dál více technologií.
Projekt Biometrického zrcadla je spolupráce mezi v Microsoft Research Centre for Social Natural User Interface na univerzitě v Melbourne a vědeckou galerii v Melbourne. Výstava otevře 25. září ve 10 hodin ve State Library Victoria a potrvá do 30. září 2018.
