Bankovnictví je v první linii ve využívání umělé inteligence, omezením je vysoká regulace, rizikem cílené podvody

„Jednou ze stěžejních otázek současného prudkého rozvoje umělé inteligence je vysvětlitelnost. U některých typů AI nedokážeme přesně vysvětlit, jak ke svým závěrům dospěla. Došli jsme tak do stavu, kdy se uživatelé umělé inteligence musí rozhodnout mezi potenciálně výkonnější formou AI a částečnou ztrátou kontroly nad výstupy, nebo standardními modely umělé inteligence, u které výstupy dokážeme přesně vysvětlit. Stále naléhavější otázkou tedy v oblasti AI je použití různých typů modelů v různých situacích a to, kdo má zodpovědnost za rozhodování AI,“ uvedl Luděk Šafář, CE Presales Director, SAS Institute ČR.

Pro banky je vysvětlitelnost v rozhodování umělé inteligence zcela klíčová. Musí být regulátorovi schopny v každém okamžiku vysvětlit, proč a jak se rozhodují. Regulátor chce konsistenci v rozhodování. Určitým varováním může být negativní zkušenost z USA, kde nesprávné nasazení AI vedlo v některých případech k diskriminaci při posuzování žádostí o úvěr.

Nicméně vývoj v oblasti umělé inteligence je tak rychlý a dopěl již do stádia, kdy se předpokládá, že na ni budeme delegovat rozhodnutí. Regulace, vysvětlitelnost a etická stránka v přístupu k AI budou důležité pro bankovnictví, zdravotnictví, veřejný sektor a další oblasti. Nulový význam bude mít ale pro podvodníky, kteří se budou snažit stále sofistikovanějšími způsoby za využití výkonné AI nezákonně obohatit.

Pokud budou lidé vystaveni cílenému podvodu s využitím AI, bude pro ně stále těžší poznat, s kým vlastně mluví, zda je to rodinný příslušník, kamarád nebo známý. Na konferenci proto mimo jiné zaznělo i varování, že pro průměrného občana bude toto riziko do budoucna růst. Proto nejenom banky všem doporučují maximální obezřetnost při nakládání s finančními prostředky, dodržovat bezpečnostní zásady a při jakýchkoli pochybnostech raději kontaktovat banku.