Ten artykuł jest kontynuacją tej historii. Sześć miesięcy temu poinformowaliśmy o tym, że Microsoft pracuje nad poprawą swojego oprogramowania do rozpoznawania twarzy, które zostało uznane za stronnicze pod względem rasowym. Teraz ta sama firma domaga się regulacji rozpoznawania twarzy, aby zapobiec stronniczości. W ten sposób dopracowali oprogramowanie stronnicze, a teraz chcą, aby cała branża została objęta regulacjami, aby uniemożliwić innym dostęp do oprogramowania o charakterze rasowym.
Szybkie linki
Problem początkowy
Jak informowaliśmy w czerwcu, interfejs API Microsoftu oparty na platformie Azure został skrytykowany w artykule badawczym. Program miał trudności z rozpoznawaniem osób o ciemnej karnacji lub kobiet. Wskaźnik błędów wyniósł 20.8%, ale w przypadku twarzy „jaśniejszych niż męskie” wskaźnik ten wyniósł zero procent.
Powodem tej rozbieżności w ocenie jest to, że sztuczną inteligencję muszą programować ludzie. Rezultaty będą tak dobre, jak ludzie, którzy ją zaprogramowali. Programiści Microsoftu nie zatrudnili wystarczającej liczby osób o ciemniejszej karnacji ani kobiet.
Firma Microsoft podjęła działania w celu rozwiązania tego problemu, dywersyfikując dane treningowe i rozpoczęła wewnętrzne testy systemów przed ich wdrożeniem. Udało im się zmniejszyć wskaźnik błędów u osób o ciemniejszej karnacji nawet 20-krotnie, a u kobiet – dziewięciokrotnie.
naciskać na ustawodawstwo
Po sześciu miesiącach zapytałem Microsoft wzywa rządy do uchwalenia przepisów wymagających testowania technologii rozpoznawania twarzy. Niezależnie, aby zapewnić dokładność, zapobiegać stronniczości i chronić prawa użytkowników.
„Można powiedzieć, że dżin rozpoznawania twarzy właśnie wyszedł z butelki” – powiedział Brad Smith, starszy konsultant w firmie Microsoft, w poście na blogu.
„Jeśli nie zaczniemy działać, ryzykujemy, że za pięć lat obudzimy się i odkryjemy, że usługi rozpoznawania twarzy rozpowszechniły się w sposób, który zaostrza problemy społeczne. A do tego czasu te wyzwania będą znacznie trudniejsze do rozwiązania.
Firma wymaga, aby wyniki rozpoznawania twarzy były analizowane przez ludzi, a nie powierzane temu zadaniu komputerom.
„Dotyczy to sytuacji, w których decyzje mogą wiązać się z ryzykiem wyrządzenia krzywdy fizycznej lub emocjonalnej konsumentowi, mogą mieć wpływ na prawa człowieka lub prawa podstawowe albo mogą zostać naruszone wolności osobiste lub prywatność konsumenta”.
Smith zasugerował ponadto, że osoby korzystające z technologii rozpoznawania twarzy muszą „zdać sobie sprawę, że nie są zwolnione z obowiązku przestrzegania przepisów zakazujących dyskryminacji wobec poszczególnych konsumentów lub grup konsumentów”.
Chciał również mieć pewność, że korzystanie przez rząd z technologii rozpoznawania twarzy nie narusza wolności demokratycznych i praw człowieka.
„Musimy zadbać o to, aby rok 2024 nie przypominał roku 1984” – podsumował.
Ponadto to
Microsoft ma oczywiście rację. Ciekawe, że sześć miesięcy temu nie zdawali sobie sprawy, że muszą uważać, aby ich oprogramowanie nie dyskryminowało, a teraz nie tylko to rozumieją, ale też chcą mieć pewność, że nikt inny nie popełni tych samych błędów. I popełnili.
Niezależnie od wcześniejszego stanowiska, czy Microsoft ma prawo domagać się przepisów i kontroli nad możliwościami rozpoznawania twarzy? Podziel się z nami swoją opinią na temat prośby Microsoftu w sekcji komentarzy poniżej.
