Roboty odkurzające iRobot robiły zdjęcia i wysyłały je do innych firm na szkolenia AI

Jesienią 2020 roku na wenezuelskim forum opublikowano zdjęcia wykonane przez odkurzacz robotyczny Roomba firmy iRobot. Urządzenia robiły zdjęcia i wysyłały je do innych firm, aby trenować sztuczną inteligencję.

Co jest znane

Informację na ten temat podaje MIT Technology Review. Autorzy uzyskali kilka zdjęć, które zostały wykonane przez roboty. Na jednym ze zdjęć widać kobietę w lawendowej koszulce, ze spodenkami opuszczonymi do połowy ud, siedzącą na toalecie.

Zdjęcia różnią się rodzajem i "stopniem wrażliwości". W artykule czytamy, że najbardziej intymne zdjęcia dotyczyły młodej kobiety na toalecie, której twarz była ukryta. Autorem zdjęć był odkurzacz robotyczny z serii iRobot Roomba J7. Wysłała ona zdjęcia do startupu Scale AI, aby wytrenować sztuczną inteligencję.

Inne zdjęcia pokazują pokoje pod różnymi kątami, meble, dekoracje i zwierzęta domowe. Urządzenie rozpoznało przedmioty na zdjęciu, więc zostały one skadrowane i opatrzone podpisami. Na przykład "telewizor", "kwiatek", "lampa sufitowa".

Firma iRobot, która została niedawno przejęta przez Amazon za 1,7 mld dolarów, potwierdziła, że zdjęcia zostały wykonane przez koparki, ale jest pewien niuans. To, że te zdjęcia zostały wykonane przez eksperymentalne urządzenia z modyfikacjami sprzętowymi i programowymi. Takie roboty nie są dostępne w sprzedaży.

Zostały one przekazane osobom, które podpisały umowę potwierdzającą, że są świadome, iż roboty przesyłają zdjęcia i filmy z powrotem do firmy w celu ich zbadania. iRobot zauważa również, że urządzenia są opatrzone naklejką z napisem "Video Recording In Progress". Ponadto odbiorcy robotów zostali zobowiązani do usunięcia z pola widzenia urządzenia wszystkiego, co uznają za wrażliwe, w tym dzieci. Nawiasem mówiąc, jeden z robotów zrobił zdjęcie dziecku w wieku 8 lub 9 lat, które leżało na podłodze i patrzyło prosto w obiektyw aparatu.

W uproszczeniu firma twierdzi, że każdy, kto otrzymał eksperymentalną wersję Roomby, zgodził się, aby robot odkurzacz podążał za nimi. Firma iRobot nie przekazała jednak autorom artykułu przykładowej umowy ani nie udostępniła danych kontaktowych osób, które otrzymały zmodyfikowane urządzenia.

Autorzy utworu otrzymali tylko 15 zdjęć. Jak podaje iRobot, w sumie jego robotyczne koparki wykonały ponad 2 miliony zdjęć, aby eksperci z Scale AI i innych firm mogli poprawić działanie algorytmów sztucznej inteligencji.

James Baussmann, rzecznik prasowy iRobota, powiedział, że firma "podjęła wszelkie środki ostrożności, aby zapewnić bezpieczeństwo przetwarzania danych osobowych zgodnie z obowiązującymi przepisami". Zauważył również, że obrazy przesłane do MIT Technology Review zostały "przekazane z naruszeniem pisemnej umowy o nieujawnianiu informacji pomiędzy iRobotem a dostawcą usługi adnotacji obrazu".

CEO iRobota Colin Angle zareagował na incydent. Stwierdził, że firma kończy współpracę z usługodawcą, który dopuścił do wycieku. Producent również wszczął dochodzenie i obiecuje, że podejmie działania, aby zapobiec podobnym sytuacjom.

Źródło: MIT Technology Review