Vysvetliteľná interakcia človeka s umelou inteligenciou - perspektíva plánovania

Pôvodný názov:

Explainable Human-AI Interaction - A Planning Perspective

Obsah knihy:

Umelá inteligencia (UI) má od svojho vzniku dosť ambivalentný vzťah k ľuďom - kolíše medzi ich rozšírením a nahradením. V súčasnosti, keď technológie umelej inteligencie vstupujú do nášho každodenného života čoraz rýchlejším tempom, sa zvyšuje potreba, aby systémy umelej inteligencie spolupracovali s ľuďmi.

Jednou z rozhodujúcich požiadaviek na takúto synergickú interakciu medzi ľuďmi a umelou inteligenciou je, aby sa správanie systémov umelej inteligencie dalo vysvetliť ľuďom v slučke. Na to, aby to bolo efektívne, musia agenti UI prekročiť plánovanie pomocou vlastných modelov sveta a zohľadniť mentálny model človeka v slučke. Agenti UI potrebujú minimálne aproximácie modelov úloh a cieľov človeka, ako aj modelu úloh a modelov cieľov agenta UI, ktorý je modelom človeka.

Prvý z nich bude agentovi slúžiť ako návod na predvídanie a riadenie potrieb, túžob a pozornosti človeka v slučke a druhý mu umožní konať spôsobom, ktorý je pre človeka interpretovateľný (tým, že sa prispôsobí jeho mentálnym modelom), a byť pripravený v prípade potreby poskytnúť prispôsobené vysvetlenia. Autori vychádzajú z niekoľkoročného výskumu vo svojom laboratóriu a diskutujú o tom, ako môže agent umelej inteligencie používať tieto mentálne modely, aby sa buď prispôsobil ľudským očakávaniam, alebo aby tieto očakávania zmenil prostredníctvom vysvetľujúcej komunikácie.

Hoci sa kniha zameriava na kooperatívne scenáre, venuje sa aj tomu, ako sa tie isté mentálne modely dajú použiť na zastieranie a klamanie. V knihe je opísaných aj niekoľko reálnych aplikačných systémov pre kolaboratívne rozhodovanie, ktoré sú založené na tu vyvinutom rámci a technikách.

Hoci sa autori riadia predovšetkým vlastným výskumom v týchto oblastiach, každá kapitola poskytne dostatok prepojení na relevantný výskum zo širšej literatúry. Technické témy, ktorými sa kniha zaoberá, sú samostatné a prístupné aj čitateľom so základným vzdelaním v oblasti umelej inteligencie.