Explainable Agency in Artificial Intelligence

Denna bok fokuserar på en del av förklarbar AI (XAI) som kallas förklarbart agerande (EA), vilket innebär att skapa register över beslut som tas under en agents resonemang, sammanfatta dess beteende i mänskligt tillgängliga termer och ge svar på frågor om specifika val och orsakerna till dem. Vi skiljer mellan förklarbart agerande och tolkbar maskininlärning (IML), en annan gren inom XAI som fokuserar på att ge insikt (vanligtvis för en ML-expert) angående en inlärd modell och dess beslut. Till skillnad från detta innebär förklarbart agerande vanligtvis ett bredare utbud av AI-tekniker, system och intressenter (t.ex. slutanvändare), där de förklaringar som ges av EA-agenter bäst utvärderas i kontexten av studier med människor.

Bokens kapitel utforskar konceptet att försörja intelligenta agenter med förklarat agerande, vilket är avgörande för att människor ska kunna lita på agenterna inom kritiska områden såsom finans, självkörande fordon och militära operationer. Boken presenterar forskningsarbete från olika perspektiv samt beskriver utmaningarna, nyligen uppnådda forskningsresultat, lärdomar från tillämpningar och rekommendationer för framtida forskningsriktningar inom EA. Det diskuteras också historiska perspektiv på förklarat agerande samt vikten av interaktivitet i förklarbara system.

Slutligen syftar denna bok till att bidra till det framgångsrika partnerskapet mellan människor och AI-system. Funktioner: Bidrar till ämnet om förligbar artificiell intelligens (XAI) Fokusera på XAI-delämne om klarlagt handlande Innehåller ett introducerade kapitel, en översikt samt fem andra originalbidrag.