Klíčové věci
- Stále větší počet společností používá AI ke čtení vašich emocí.
- Umělá inteligence čtená emocemi by mohla potenciálně usnadnit používání technologie.
- Někteří odborníci se obávají dopadů na soukromí společností, které shromažďují vaše emoční údaje.
Umělá inteligence (AI) o vás může brzy vědět víc, než si myslíte. Startup jménem Hume AI tvrdí, že používá algoritmy k měření emocí z obličejových, vokálních a verbálních výrazů. Je to jedna z rostoucího počtu společností, které se snaží číst lidské emoce pomocí počítačů. Někteří odborníci ale tvrdí, že tento koncept vyvolává problémy s ochranou soukromí. „Kdo ovládá tyto systémy a platformy, bude mít spoustu informací o jednotlivcích,“ řekl Bob Bilbruck, poradce pro technologické startupy, Lifewire v e-mailovém rozhovoru. „Budou schopni vytvořit profily pro tyto lidi, které mohou být použity pro peněžní zisk, kontrolu výsledků nebo potenciálně ohavnější makro sledování lidí a společnosti.“
Čtení z obličeje?
Hume říká, že tajemstvím, jak naučit umělou inteligenci číst emoce, jsou velká data. Společnost tvrdí, že svou umělou inteligenci trénuje na masivních souborech dat ze Severní Ameriky, Afriky, Asie a Jižní Ameriky. „Naší vizí je svět, kde umělá inteligence převádí vědecké poznatky do nových způsobů, jak zlepšit lidský emocionální zážitek,“ píše společnost na svém webu. „Emoční uvědomění je chybějící ingredience potřebná k vytvoření algoritmů sociálních médií, které se optimalizují pro uživatelskou pohodu…“ Hume je jednou z mnoha společností, které se snaží využít data k získání vhledů do lidských emocí. Společnosti používají emocionální monitorování, aby se pokusily navrhnout efektivní reklamy, řekl Lifewire v e-mailovém rozhovoru Oleksii Shaldenko, profesor, který zkoumá umělou inteligenci na Kyjevském polytechnickém institutu Igora Sikorského na Ukrajině. Podobná technologie se používá k vyhodnocování tónu hlasu v call centrech, sledování chování řidičů v automobilech a měření postoje diváků ve streamovacích a produkčních společnostech. Technický ředitel AI Dynamics Ryan Monsurate řekl Lifewire v e-mailovém rozhovoru, že AI čte jejich emoce pro uživatele významné potenciální výhody. Řekl, že jedním z použití by bylo navrhnout rozhraní, která sníží pravděpodobnost, že lidé budou frustrováni nebo rozzlobeni jejich technologií. Náročnějším problémem k vyřešení by bylo generovat vhodné emocionální reakce na emoce vnímané AI při interakci s lidmi, řekl Monsurate. „Mnoho z nás mluvilo s našimi zpravodajskými asistenty, a přestože se kvalita tónu dřeva a intonace jejich hlasů za poslední desetiletí zlepšily, nejsou o nic lepší v komunikaci způsobem, který přenáší různé emoce,“ dodal. „Vidím, že generativní modely jsou schopny generovat syntetické hlasy s emocemi as kontextově vhodnými emocemi, jak modely rostou ve velikosti a složitosti, nebo když děláme nové průlomy v oblasti hlubokého učení.“ Ale nejbezprostřednější výhodou technologie čtení emocí může být pro společnosti, které se snaží prodávat věci. Systém SenseR například umožňuje maloobchodníkům personalizovat prostředí v prodejně. Počítače sledují a analyzují výrazy a řeč těla nakupujících. Zaměstnanci mohou výsledky použít k nasměrování prodeje správným směrem, když je vyzve personál prodeje v prodejně, řekla v e-mailovém rozhovoru pro Lifewire Fariha Rizwan, expertka na IT a vztahy s veřejností.
„Z hlediska maloobchodní analýzy může využití strojového vidění ke sledování lidských nakupujících poskytnout maloobchodníkovi statistiky o trvání interakce v obchodě, úrovních zájmu na základě teplotních map, cestách po obchodech a demografii nakupujících,“ dodal Rizwan.
Kdo vlastní vaše emoce?
S tím, jak se společnosti stále častěji obracejí na umělou inteligenci, aby četly emoce, existuje mnoho potenciálních úskalí v oblasti ochrany soukromí. Technologie rozpoznávání obličeje, které řídí systémy čtení emocí, mají tendenci fungovat na veřejných a soukromých místech bez souhlasu sledovaných lidí, ukládají jejich data a někdy tato data prodávají tomu, kdo nabídne nejvyšší nabídku, řekl Rizwan. „Také nevíme, do jaké míry jsou tyto systémy chráněny před kybernetickými útoky, které potenciálně umisťují mapu obličeje člověka do rukou špatného herce,“ dodal Rizwan. „Tyto obavy zahájily posun ve zvýšeném monitorování, sledování, zveřejňování soukromí a odpovědnosti.“ Největší obavy o soukromí nesouvisejí s umělou inteligencí, ale spíše se základními rámci a předpisy pro sdílení informací, které již existují, argumentoval Monsurate. Pokud společnosti mohou zpeněžit vaše data a použít je k manipulaci s vaším chováním, pak pochopení vašeho emocionálního stavu jim pomůže to udělat lépe. „Co potřebujeme, jsou zákony, které demotivují toto chování v první řadě bez ohledu na to, jaké nástroje používají k dosažení svých cílů,“ dodal Monsurate. „To nejsou nástroje, ale špatní herci a naše současné zákony na ochranu soukromí jsou žalostně nedostatečné.“