Skip to content

Může nás AI naučit být více člověkem? Možná…

30 de Červen de 2021
GettyImages 923872378 f5e94643048640fcb143991c1b64d338

Klíčové jídlo

  • Programy umělé inteligence, jako je Cogito, se snaží naučit lidi empatii při jednání se zákazníky.
  • Odborníci se neshodují v tom, zda je možné, aby stroj naučil lidi empatii, nebo zda jednoduše vyhledá datové body.
  • Někteří odborníci se také obávají, že výuka empatie AI by mohla lidstvo o tyto emoce připravit.
Představte si, že pracujete v call centru a volá vám zákazník. Odpovíte a hned se věci začnou zhoršovat. Zákazník se hněvá a napětí roste. Začnete říkat věci, které byste později mohli litovat. Najednou se na obrazovce počítače zobrazí zpráva. „Empathy Cue – Přemýšlejte o tom, jak se zákazník cítí. Zkuste se spojit.“ Není to skutečný člověk, který vám říká, co máte dělat. Je to zpráva od Cogita, programu umělé inteligence, jehož cílem je pomoci pracovníkům vcítit se do frustrovaných volajících a zvýšit výkon. Cogito je jedním z rostoucího počtu programů AI, které se snaží naučit lidi empatii. Je tu zjevná ironie. Lidští vědci se po celá desetiletí snaží vyrábět realističtější počítače. Nyní nám stroje říkají, jak se máme chovat. Může nás ale software opravdu naučit, jak být empatičtější? Je to problém, který by mohl mít hluboké důsledky, protože umělá inteligence začíná pronikat každodenním životem.

AI napodobuje lidské chování

Z technického hlediska je jasné, že AI může zachytit vodítka o tom, jak se lidé cítí, a poskytnout zpětnou vazbu. „Systémy umělé inteligence a strojového učení jsou velmi dobré při hledání vzorců v datech,“ uvedl v e-mailovém rozhovoru Adam Poliak, postdoktorand v oboru počítačových věd na Barnard College. „Pokud dáme AI spoustu příkladů empatického textu, může AI objevit vzory a narážky, které evokují nebo demonstrují empatii.“ „AI může být naprogramována tak, aby rozložila některá lidská chování, která doprovázejí empatii a připomínají lidem, aby je prováděli, ale to není učení empatie.“ AI, která analyzuje lidské reakce, může pomoci překlenout rostoucí propast mezi lidmi, když komunikujeme digitálně, uvedl v e-mailovém rozhovoru Bret Greenstein, expert na AI v Cognizant Digital Business. „Za poslední rok rostl čas, video, hlas a zprávy v reálném čase rychleji, než si kdokoli dokázal představit, a s tím přišly obrovské výzvy při vytváření skutečně empatických vztahů, aniž by skutečně trávili fyzický čas s lidmi,“ dodal. AI může pomoci analyzovat a posoudit charakteristiky, jako je tón a emoce v řeči, řekl Greenstein. „To může pomoci příjemci komunikace lépe porozumět tomu, co se tím myslelo, a pomoci tomu člověku„ mluvit “tím, že ukáže, jak lze zprávy interpretovat,“ dodal. Zatímco společnosti spěchají k výplatě za výcvikový software pro umělou inteligenci, jako je Cogito, zůstává otázka, zda umělá inteligence může naučit empatii člověka, otevřená. A odpověď může mít co do činění s filozofií stejně jako technologie. Ilia Delio je teologkou na Villanova University, jejíž práce se soustředí na průnik víry a vědy. Věří, že AI může učit empatii.

Dítě v interakci s robotem.

Delio poukázal na to, že tým na MIT vytvořil roboty, které mohou napodobovat lidské emoce, jako je štěstí, smutek a soucit. „Zatímco jsou robotické emoce naprogramovány, mohou roboti interagovat s lidmi a vytvářet tak nebo posilovat nervové vzorce,“ řekla.

Dokáže stroj porozumět empatii?

Odborníci definují nejméně tři formy empatie, všechny zahrnují schopnost porozumět a být v kontaktu s jinou osobou, uvedla Karla Erickson, sociologka na Grinnell College v Iowě a autorka nadcházející knihy, Messy Humans: A Sociology of Human / Machine Relations, který zkoumá naše vztahy s technologií. „Vztah není něco, co umělá inteligence dokáže, a je to základ empatie,“ řekl Erickson v e-mailovém rozhovoru. „AI může být naprogramována tak, aby rozložila některá lidská chování, která doprovázejí empatii, a připomíná lidem, aby je prováděli, ale to není učení empatie. Vztah, zejména pokud jde o empatii, by vyžadoval, aby posluchač měl potřebný kontext, který se týká – Tím mám na mysli, že „život“ AI nezahrnuje ztrátu, touhu, naději, bolest nebo smrt. “ Odborníci se však střetávají, zda nás AI může naučit empatii. Část problému spočívá v tom, že ne každý souhlasí s tím, co „empatie“ nebo „AI“ vůbec znamená. Termín umělá inteligence se hodně hodí, ale v současné době to není druh inteligence, o které si myslíme, že je lidská. „Toto je čistě inženýrská práce a nedělám si takovou iluzi, že dotyčná AI sama má emoce nebo emocím skutečně rozumí.“ „„ Náznaky empatie “nemají nic společného s empatií,“ uvedl v e-mailovém rozhovoru Michael Spezio, profesor psychologie, neurovědy a vědy o datech na Scripps College. „Jsou to narážky z hlasů, které lidští hodnotitelé klasifikovali jako hlasy lidí, kteří jsou podrážděni / naštvaní. Jde tedy pouze o využití lidských znalostí v matematickém modelu a poté o tvrzení, že model – postavený na lidských znalostech – je inteligentní. Omezené strojové učení přístupy, jako je tento, jsou často propagovány jako AI, aniž by byly inteligentní. “ Laboratoř Selmer Bringsjord na Polytechnickém institutu Rensselaer staví matematické modely lidských emocí. Výzkum je zaměřen na vytvoření AI, která může dosáhnout vysokých výsledků v testech emoční inteligence a aplikovat je na člověka. Ale Bringsjord, expert na AI, říká, že každá výuka AI je neúmyslná. „Ale toto je čistě inženýrská práce a nedělám si takovou iluzi, že dotyčná AI sama má emoce nebo emocím skutečně rozumí,“ uvedl v e-mailovém rozhovoru.

Co by se mohlo pokazit?

Zatímco společnosti jako Cogito vidí světlou budoucnost lidí cvičících AI, ostatní pozorovatelé jsou opatrnější. Supportiv, online služba pro duševní zdraví, používá AI k směrování každého uživatele na základě jakékoli myšlenky, kterou vyjádří, v reálném čase do tematické skupiny peer support, která se dynamicky hodí pro uživatele s podobnými problémy.

Dítě objímající robota, který na něm zobrazuje šťastnou tvář "obličeje" obrazovka.

Každá skupina má „super-poháněného“ lidského moderátora, který udržuje textový chat v bezpečí a bez trolů a může na povrch, opět prostřednictvím AI, příslušných zdrojů, doporučení a doporučení přímo do skupinové konverzace. Pomocí AI, Supportiv trénuje své moderátory, aby byli zběhlí ve zjišťování intenzity emocionálních potřeb. „Empatie je sval, který si budujeme,“ uvedla v e-mailovém rozhovoru Zara Dana, datová vědkyně společnosti Supportiv. „Pokud začneme při chůzi používat berlu, naše svaly atrofují. Nemohu si pomoci, ale divím se, že by se závislý pracovník cítil sebejistě, kdyby systém AI nebyl jednou online? Je schopna dělat svou práci efektivně? Co jsou dlouhodobé dopady na pracovníky? Jak by se orientovali ve složitých sociálních situacích, kde umělá inteligence chybí? “ I když použití umělé inteligence k výuce empatie funguje, co se stane, když se na umělou inteligenci začneme příliš spoléhat na umělou inteligenci? Jednou z možných nevýhod je, že lidé se mohou více přichytit k robotům než k jiným lidským osobám, protože roboti si nemohou vybrat proti svému programu, zdůraznil Delio. „Lidská kapacita pro svobodnou vůli staví lidskou agenturu do nejednoznačnější pozice,“ řekl Delio. „Člověk může být jednoho dne soucitný a druhý den bezohledný; robot zůstane trvale soucitný, pokud nebude vycvičen, aby udělal něco jiného.“ Je mnoho, co by se mohlo pokazit, pokud AI učí lidi, jak se chovat jako lidé, říkají odborníci. „Vyvinuli jsme se jako společenská zvířata a naše empatie je ústředním prvkem naší schopnosti spojit se s ostatními a starat se o kolektivy, ke kterým patříme.“ „Bez lidského dohledu by se student mohl naučit něco naprosto ořechového,“ řekl Bringsjord. „Tón a výška hlasu jsou pouhé koreláty chování, bez jakéhokoli obsahu. Dolary, které mi při učení ve třídě donutily koblih, by četlo mnoho … což naznačuje, že jsem rozrušený, zatímco ve skutečnosti jsem jen vášnivý a nejméně potřebují empatii. “ Pokud vzkvétá umělá inteligence lidí, můžeme se na to spolehnout. A to nemusí být nutně dobrá věc. „Toto školení devalvuje lidské dovednosti, které jsou značné, a přesouvá pozornost směrem k AI, jako by to byly ty, které mají odborné znalosti,“ řekl Erickson. „Vyvinuli jsme se jako společenská zvířata a naše empatie je ústředním prvkem naší schopnosti spojit se s ostatními a starat se o kolektivy, ke kterým patříme.“