Tím výskumníkov z AI centra Skoltech a Ruskej akadémie vied predstavil nový spôsob, ako naučiť neurónové siete lepšie posudzovať vlastnú istotu pri predikciách. Výsledky prezentovali na prestížnej konferencii WACV 2025 a zverejnili ich aj v jej zborníku.
Moderné modely umelej inteligencie bývajú síce presné, no často pôsobia až príliš sebaisto – aj v prípadoch, keď vstupné dáta nie sú jednoznačné alebo obsahujú šum. V citlivých oblastiach, ako je zdravotníctvo či autonómne systémy, môže byť takéto správanie rizikové. Práve preto výskumníci vyvinuli metódu, ktorá umožňuje modelu pocítiť neistotu a upozorniť na situácie, kde by mal rozhodnutie overiť človek.
Neistota je kľúčová
Základom prístupu sú takzvané “soft“ značky v trénovacích dátach, ktoré na rozdiel od klasických binárnych hodnôt (0 alebo 1) vyjadrujú mieru dôvery odborníkov v správnosť označenia. Tieto hodnoty v rozsahu od 0 do 1 pomáhajú modelu rozpoznať hraničné alebo nejednoznačné prípady a rozhodovať sa opatrnejšie.
Mohlo by vás zaujímať:
- Jablká sú v ohrození. Vedci však našli riešenie problému
- Umelá inteligencia v každom kúte domácnosti
- Malé mestské lesíky pomáhajú viac, ako sa očakávalo
“Naša metóda pomáha neurónovej sieti pochopiť, kde si treba dávať pozor. V praxi to znižuje riziko jej prílišnej sebadôvery pri riešení zložitých alebo hraničných prípadov. Metódu sme testovali na reálnych dátach a potvrdila sa jej účinnosť pri odhadovaní neistoty.”
Aleksandr Yugay, junior výskumný inžinier v Skoltech AI Center
Výskumníci metódu testovali na reálnych úlohách vrátane diagnostiky krvných typov. Dosiahli výrazne lepšie výsledky pri hodnotení neistoty v klasifikácii aj segmentácii. Okrem toho sa prístup zameriava na dva typy neistoty, a to epistemickú (spojenú s nedostatkom dát) a aleatorickú (danú prirodzeným šumom v údajoch).
„Náš cieľ bol naučiť model nielen rozhodovať, ale aj vedieť, kedy si nie je istý. Presne to je kľúčové v medicíne alebo technickej kontrole, kde môže chyba stáť život alebo peniaze.“
vysvetľuje Alexey Zaytsev zo Skoltechu
Nová technológia môže nájsť uplatnenie všade tam, kde je spoľahlivosť AI rozhodujúca – od zdravotníctva cez automatizáciu výroby až po autonómne systémy. Uvidíme, do akej miery sa rozvinie v týchto oblastiach.
Zdroj: TechXplore
