Klíčové jídlo
- Společnosti používají umělou inteligenci k průzkumu svých zaměstnanců.
- Začátkem tohoto roku společnost Amazon nainstalovala do svých dodávkových kamer kamery vybavené strojovým učením.
- Sledování umělé inteligence by mohlo vést k problémům s ochranou soukromí a bezpečnosti, pokud by je používaly bezohledné společnosti.
Zaměstnavatelé stále více sledují své pracovníky pomocí umělé inteligence a pozorovatelé tvrdí, že tato praxe vyvolává obavy o soukromí. Začátkem tohoto roku společnost Amazon nainstalovala do svých dodávkových kamer kamery vybavené strojovým učením. Společnost nedávno řekla svým řidičům, že s jejich používáním musí souhlasit. Praxe sledování na pracovišti může být legální, ale ne každý souhlasí s tím, že je etická. „Společnosti používají nástroje pro sledování zaměstnanců po celá desetiletí, ale s vyspělou technologií se stávají invazivnějšími,“ uvedla v e-mailovém rozhovoru Aimee O’Driscoll, výzkumná pracovnice na bezpečnostním webu porovnávající technologie. „Většinu monitoringu zaměstnanců lze považovat za narušení soukromí a dalo by se namítnout, že to, co dělá Amazon, se příliš neliší od toho, že v kanceláři mají CCTV kamery.“
Být sledován nebo vyhozen
Přibližně 75 000 řidičů dodávek společnosti Amazon v USA je nyní povinno podepsat formulář „biometrického souhlasu“. Formulář povolení umožňuje kamerám napájeným umělou inteligencí sledovat polohu, pohyb a biometrická data řidičů. Zaměstnanci, kteří dokument nepodepíší, mohou být propuštěni. Sledování AI sleduje vše, co dělají řidiči Amazonu, a napadá předpokládané soukromí subjektu, uvedl v e-mailovém rozhovoru Chris Hauk, výzkumník ochrany osobních údajů na webu ochrany soukromí Pixel Privacy. „To zahrnuje záznam pokaždé, když subjekt zívá nebo poškrábe citlivou oblast,“ dodal. „Řidič má ve svém vozidle alespoň nějaké právo na zdání soukromí.“
Sledování zaměstnanců pomocí AI je rostoucím problémem. Walmart patentoval technologii AI, která umožňuje poslech interakcí zaměstnanců se zákazníky u pokladen, zdůraznil O’Driscoll. Softwarový vývojář Enaible poskytuje nástroje produktivity založené na softwaru AI. Různé společnosti, včetně Macy’s, používají analytický systém společnosti Microsoft, který může sledovat chování zaměstnanců. Společnost Domino’s používá technologii AI ke kontrole správného vaření pizzy. „Jedním z hlavních problémů je, že při nesprávném použití může nedostatek soukromí vést k bezpečnostním problémům,“ řekl O’Driscoll. „Data z dohledu by mohla skončit v rukou zločinců, nebo by samotní špatní aktéři mohli použít sledování AI k cílení na oběti.“ Výsledkem biometrických skenů obličeje je matematické znázornění tváře subjektu údajů, které lze využít k jejich identifikaci a sledování kdekoli po zbytek života, uvedl v e-mailovém rozhovoru Ray Walsh, odborník na ochranu soukromí na webu ProPrivacy. „To zvyšuje vážná bezpečnostní a bezpečnostní rizika pro řidiče Amazonu, jejichž data by mohla být pomocí rozkazu narušena, prozrazena nebo potenciálně dokonce zneužita vládními snoopy,“ dodal. Vzhledem k tomu, že technologie AI je relativně nová, neexistují konkrétní pokyny ohledně jejího použití týkající se ochrany soukromí, řekl O’Driscoll. „To znamená, že bezpečnost bude pravděpodobně vždy legitimní omluvou pro narušení soukromí, takže Amazon je zahrnut do svých současných záměrů,“ dodala. „Zatímco zaměstnanci mají právo ukončit nebo souhlasit s navrhovaným monitorováním umělé inteligence, činí to tváří v tvář enormní energetické nerovnováze,“ uvedl O’Driscoll, že by mělo být regulováno sledování umělé inteligence. „Společnosti by v ideálním případě měly mít legitimní důvody (například bezpečnost) pro dohled nad umělou inteligencí,“ dodala. Některé státy schválily zákony, které omezují a regulují používání dozoru na pracovišti, ale chybí federální legislativa, zdůraznil Walsh. V roce 2019 byl do sněmovny a Senátu zaveden zákon o algoritmické odpovědnosti, ale nakonec byl zamítnut. Podobný zákon může být zaveden i letos a „doufá se, že Kongres a Bílý dům vedený demokraty mohou zlepšit jeho šance na přijetí,“ řekl Walsh.
Na práci neočekávejte soukromí
Ne každý si myslí, že sledování Amazonu nad jeho řidiči je zásahem do soukromí. „Myslím, že je těžké tvrdit, že zaměstnanec má rozumné očekávání soukromí ve vozidle společnosti,“ uvedl v e-mailovém rozhovoru Will Griffin, hlavní etický ředitel společnosti AI Hypergiant. „Větší obavou je, že za několik krátkých let budou všichni tito řidiči nahrazeni autonomními vozidly. Takže jakákoli debata o politice řidičů se stane diskutabilní, protože flotila se stane plně autonomní.“ Případ Amazon zdůrazňuje potřebu unie nebo cíleného federálního zásahu jako způsobu obnovení rovnováhy sil mezi pracovníky Amazonu a společností, uvedl Griffin. „Zatímco zaměstnanci mají právo ukončit nebo souhlasit s navrhovaným monitorováním AI, činí to tváří v tvář enormní nerovnováze sil,“ dodal.
