Proč Facebook používá Instagram k trénování AI zvyšuje příznaky ochrany soukromí

Klíčové jídlo

• Odborníci na ochranu soukromí vzbuzují obavy ohledně toho, jak Facebook používá veřejné fotografie Instagramu k trénování umělé inteligence.
• Program se naučil rozpoznávat obrázky tím, že počítač ukázal více než 1 miliardu veřejných fotografií.
• Zásady ochrany soukromí společnosti Instagram obsahují část, která uživatelům umožňuje vědět, že informace mohou být použity při výzkumu a vývoji.

Používání fotografií Instagramu Facebookem k trénování umělé inteligence vyvolává obavy o soukromí. Sociální gigant nedávno oznámil, že vytvořil software, který se může poučit z toho, na co se dívá. Program byl naučen rozpoznávat obrázky kontrolou více než 1 miliardy veřejných fotografií. Odborníci tvrdí, že uživatelé by si měli být vědomi toho, že Facebook používá jejich obrázky. „Jde o to znát souhlas,“ uvedl v e-mailovém rozhovoru James E. Lee, provozní ředitel Centra zdrojů krádeží identity. „Zásady ochrany osobních údajů Instagramu – které většina lidí pravděpodobně nečte – velmi jasně stanoví, že společnost si vyhrazuje právo použít fotografie, které zveřejníte, k výzkumu. Uživatelé mohou v nastavení ochrany osobních údajů zapínat a vypínat rozpoznávání obličeje.“

Lepší než ostatní

Společnost Facebook, přezdívaná SEER pro SElf-supERvised, překonala v testu rozpoznávání objektů další modely umělé inteligence (AI). Program dosáhl „skóre přesnosti klasifikace“ 84,2%, když byl podroben testu, který kontroluje, zda program AI dokáže identifikovat, co je na obrázku. „Výkon společnosti SEER ukazuje, že učení s vlastním dohledem může vyniknout v úlohách počítačového vidění v reálných podmínkách,“ uvedla společnost v příspěvku na blogu. „Jedná se o průlom, který v konečném důsledku vyjasňuje cestu k flexibilnějším, přesnějším a přizpůsobivějším modelům počítačového vidění v budoucnosti.“ „Ačkoli podmínky společnosti Facebook jim mohou umožnit využívat uživatelská data takovým způsobem, většina uživatelů si výslovně a aktivně neuvědomuje, že jejich data jsou pro tyto účely těžena.“ Pokud by byl spuštěn komerčně, SEER by pomohl identifikovat objekty – ne lidi – aniž by byl naprogramován tak, aby prostřednictvím štítku věděl, co je na fotografii, řekl Lee. „To je efektivnější a rychlejší způsob než současná metoda, která vyžaduje obrovské datové sady, aby se objekt shodoval s jeho identitou,“ dodal. „Vždy existuje možnost zneužití, ale existují i ​​oprávněné potenciální výhody tohoto druhu technologie.“ Program Facebooku by mohl společnosti pomoci zlepšit obsah policie, který porušuje její zásady, například omezit nežádoucí vystavení obscénním nebo grafickým obrázkům, uvedla v e-mailovém rozhovoru Aimee O’Driscoll, výzkumná pracovnice v oblasti ochrany osobních údajů na webu Comparitech. Mohlo by to být také použito k automatickému popisu obrázků, což by zlepšilo uživatelské prostředí pro lidi se zrakovým postižením.

S tímto programem jste již souhlasili

Zásady ochrany soukromí společnosti Instagram obsahují část, která uživatelům umožňuje vědět, že informace mohou být použity při výzkumu a vývoji. „Společnost využívá svůj objem dat pro další část svého podnikání, podobně jako používá uživatelská data ke krmení svého reklamního podnikání,“ řekl O’Driscoll. „Přesto se uživatelé mohou cítit nepříjemně, když jsou jejich obrázky používány tímto způsobem.“ Yashar Behzadi, generální ředitel společnosti Synthesis AI, společnosti využívající umělou inteligenci pro počítačové vidění, uvedl, že nejnovější pokrok AI v oblasti Facebooku představuje „významné zlepšení“ schopnosti počítačového vidění. „Uživatelé pravděpodobně mohou očekávat lepší označování obrázků a kontextové vyhledávání, zatímco inzerenti budou těžit z přesnějšího cílení na uživatele,“ dodal. Ale přístup Facebooku k využívání miliard obrázků Instagramu vyvolává vážné obavy o soukromí a regulaci, uvedl Behzadi.

„Ačkoli podmínky společnosti Facebook jim mohou umožnit využívat údaje o uživateli takovým způsobem, většina uživatelů si výslovně a aktivně neuvědomuje, že jejich data jsou pro tyto účely těžena,“ uvedl. „Věříme, že společnosti by měly být s uživateli přímější a transparentnější a měly by jim umožnit plnou kontrolu nad jejich daty.“ Mnoho dalších společností použilo umělou inteligenci k identifikaci obsahu obrázku, upozornil v e-mailovém rozhovoru Bobby Gill, generální ředitel vývojáře aplikací Blue Label Labs. „Skutečnost, že to bude téměř jistě použito pro marketing, je však znepokojující,“ dodal. Nový program by mohl vyvolat potenciální obavy o soukromí, v závislosti na tom, jak Facebook plánuje systém používat, uvedla Gill. „Tato data by pravděpodobně byla přístupná technickým obchodníkům, kteří by je použili k identifikaci určitých trendů na základě různých prvků identifikovaných v obraze,“ uvedl. „Například schopnost získávat informace z obrázků, které lidé zveřejňují, přidává další dimenzi pro asociativní systémy, které obecně používají chování k profilování a cílení na jednotlivce. Mohlo by dojít ke zjištění, že kdokoli, řekněme, žáby ve 3–7% svých obrázků je vysoce pravděpodobné, že si koupí domácí fitness vybavení. “