Mitől lesz bizalmunk az Ai-termékekben? Interpretálhatóság és gépi tanulás a (fekete-)dobozban

Globálisan megfigyelhető egy data science (adattudományi) kompetencia hiány azzal a trenddel egy időben, hogy az üzleti életben egyre több szakember ébred tudatára az adatokban rejlő potenciálnak, végez elemzést, és kezd data science-el foglalkozni.

A data scientist-ek és az egyes üzleti területek szakértői között jelentős különbségek vannak. Ennek oka többek között az, hogy elemző eszközök és a data science alapjainak elsajátítása nagy feladatokat ró a kezdőkre. Ez a jelenség csökkenti a siker valószítnűságét a data science projektek és ezt használó termékek esetében.

Sikeresség tekintetében az üzleti felhasználók számára rendelkezésre álló adattudományt használó alkalmazások és termékek palettája meglehetősen vegyes. Az „Ai termékek” elterjedésének egyik akadálya tud lenni a bizalom hiánya. Különböző iparágak szakemberei – legyen szó mérnökökről, vagy marketing szakemberekről – hasonlítanak abban, hogy miképp fogadják el az Ai segítségét a munkájukban. Egyfelől a bizalmuk eredhet abból, hogy átlátják az algoritmus működését (globális interpretálhatóság), másfelől abból hogy látható miképp jutott a modell egyes döntésekre (lokális interpretálhatóság). A gyarapodó data science tudással rendelkező szakemberek válhatnak „citizen data scientist”-ekké, akik elvárják az átláthatóságot, az érthetőséget és ezzel a bizalmat az általuk használt algoritmusoktól.

Véleményem szerint az interpretálhatóság és a bizalom problémáinak kezelése jelentős előrelépést tehet lehetővé a data science sikeres alkalmazásában üzleti termékekben.

Hámornik Balázs Péter
Product Manager, Emarsys

Balázs 2007-ben kognitív pszichológusként diplomázott és folytatta tanulmányait a Ph.D. fokozat 2014-es megszerzésével. Akadémiai tevékenysége során a kutatásmódszertanra, statisztikára, adatbányászatra, szöveganalitikára és ezek nem-mérnökök számra való oktatására fókuszált. Valamennyi oktatási és témavezetési tevekénységet megtartva 2015-ben a Műegyetemről az üzleti életbe váltott, hogy termékcsapatok különböző pozícióiban dolgozzon az Ericsson-nál, a Balabit-nél, a RapidMiner-nél majd jelenleg az termékmenedzser az Emarsys-nál. Célja, hogy az adatelemzéshez különbözőféleképp kapcsolódó termékek sikeréhez hozzájáruljon, legyen szó automatikus prediktív modellező alkalmazásról (RapidMIner Automodel) vagy az Ai-t használó marketing platformról (Emarsys).

Azt gondolja, hogy ma már nincs se munkakör, se cég adatvezérelt döntések nélkül tehát az elemzés minden dolgozó közös tevékenysége kell legyen.

Szeret tanítani és mentorálni. Szabadidejében a futásban és a síalpinizmusban talál feltöltődést.