Kukaan ei enää välttämättä ymmärrä miten ja miksi tekoäly suoltaa sellaisia tuloksia kuin suoltaa. Mikäli tekoäly on kehitetty esimerkiksi pelaamaan Go-lautapeliä, tällä ei olekaan kovin suurta merkitystä.

Jos koneen tarkoitus on antaa sitovia hoito-ohjeita sairauksiin tai päättää kenet valitaan työpaikkaan tai yliopistoon, onkin ohjelman toiminnan ymmärtäminen ensiarvoisen tärkeää.

SAS esitteli äskettäin omia ratkaisujaan mustan laatikon ongelmaan SAS Global Forum -tapahtumassa.

Esimerkiksi nostettiin yhdessä amsterdamilaisen sairaalan kanssa toteutettu projekti. Konenäköä ja tekoälyä hyödyntämällä syöpäpotilaiden tilassa tapahtuneiden muutosten analysointi leikkauspäätöksiä varten annettiin tietokoneen tehtäväksi. Näin tekoälyohjelmistojen voidaan sanoa päättävän jopa elämästä ja kuolemasta.

Lue lisää tekoälyn ”mustan laatikon ongelmasta”.