Ember a hurokban AI: Teljes szakmai útmutató

Az ember a hurokban AI (HITL) egy tervezési minta, amelyben az emberek aktívan felügyelik, érvényesítik és kontrollálják az AI kimeneteit kritikus döntési pontokon, ahelyett, hogy a rendszert teljesen önállóan működtetnék. Ez nem gyenge AI helyettesítése. Ez egy tudatos architekturális döntés, amely megbízhatóbbá, elszámoltathatóbbá és jogilag védhetőbbé teszi az AI rendszereket, különösen az olyan keretrendszerek esetén, mint az EU AI rendelet.

Azok számára, akik Közép-Európában dolgoznak, ez a megkülönböztetés valódi súllyal bír. Az EU AI rendelet, amely 2024 augusztusában lépett hatályba, kötelező emberi felügyeleti követelményeket ír elő a magas kockázatú mesterséges intelligencia rendszerekre, a nem megfelelés esetén kiszabható büntetések elérhetik akár a 35 millió eurót vagy a globális árbevétel 7%-át a jogsértésekért, valamint a globális éves árbevétel 3%-át a felügyeleti hiányosságokért. A HITL megvalósítása nem választható azokra a szervezetekre nézve, amelyek szabályozott szektorokban működnek.

Mi az a human-in-the-loop AI?

A human-in-the-loop mesterséges intelligencia olyan MI rendszert jelent, amely úgy van kialakítva, hogy egy ember át tudja tekinteni, kijavíthassa vagy jóváhagyhassa a kimeneteket, mielőtt azok valós következményeket váltanának ki. A kifejezés a vezérlési rendszerek mérnöki területéről származik, ahol a 'hurok' egy rendszer és a környezete közti visszacsatolási ciklust írja le. Az, hogy egy ember szerepel ebben a hurkon belül, azt jelenti, hogy a ciklus nem zárulhat le emberi jóváhagyás nélkül.

Három alapvető elem határozza meg az igazi HITL rendszert:

• Emberi felülvizsgálat: Egy képzett személy vizsgálja át az MI által generált kimeneteket, mielőtt azokat alkalmaznák, nem csupán nyilvántartásba veszi azokat.
• Javítási jogkör: A felülvizsgáló módosíthatja, elutasíthatja vagy felülírhatja az MI javaslatát akadályok vagy szervezeti nyomás nélkül az elfogadásra.
• Visszacsatolás integráció: Az emberi korrekciók visszakerülnek a modellbe, így idővel javítják a jövőbeni kimeneteket.

A HITL egy tágabb felügyeleti modellek családjába tartozik: a human-on-the-loop (HOTL), ahol az emberek figyelemmel kísérik, de nem avatkoznak be minden ciklusban, valamint a human-in-command (HIC), ahol az emberek tartják fenn a végső hatalmat az egész rendszer felett. A megfelelő modell kiválasztása az alkalmazás kockázati szintjétől, döntéshozatali mennyiségétől és szabályozási környezetétől függ.

Az EU AI rendelet szerint a magas kockázatú MI rendszerek – amelyek területei közé tartozik a biometrikus azonosítás, kritikus infrastruktúra, foglalkoztatási szűrés és orvosi eszközök – kötelesek hatékony emberi felügyeletet támogatni. A rendelet 14. cikke öt különálló képességet határoz meg, amelyeket a felügyeleti mechanizmusoknak lehetővé kell tenniük, ideértve a rendszer viselkedésének megértését, a hibák észlelését, valamint a rendszer beavatkozás vagy leállításának képességét szükség esetén.

Hogyan működik valójában az emberi beavatkozással működő mesterséges intelligencia?

A HITL mechanikája egy strukturált munkafolyamatot követ előre meghatározott emberi érintkezési pontokkal. Az, hogy pontosan hol helyezkednek el ezek az érintkezési pontok és milyen eszközök támogatják őket, különbözteti meg az igazi HITL rendszert attól, amely csak azt állítja, hogy emberi felügyelet alatt áll.

Az alap munkafolyamat:

1. Bemeneti szakasz: Az adatok belépnek az MI rendszerbe. Az emberek érvényesíthetik az adatok minőségét vagy jelölhetnek meg rendellenességeket a feldolgozás megkezdése előtt.
2. Feldolgozási szakasz: Az MI elemzi a bemenetet, és előállít egy jelölt kimenetet, általában egy bizonyossági pontszámmal együtt.
3. Ellenőrzési szakasz: Egy emberi ellenőr megvizsgálja a kimenetet, a bizonyossági pontszámot és a támogatott magyarázatokat. Jóváhagyja, módosítja vagy elutasítja azokat.
4. Visszacsatolási szakasz: Az ellenőr döntése naplózásra kerül, és ahol alkalmazható, felhasználásra kerül a modell újratanítására vagy újbóli beállítására.
5. Végrehajtási szakasz: Csak az emberi jóváhagyás után indítja el a kimenet a további műveletet.

Azok az eszközök, amelyek valódi felügyeletet tesznek lehetővé:

• Bizonyossági pontszámok, amelyek alacsony biztonságú kimenetek esetén kötelező ellenőrzést jeleznek
• Magyarázhatósági felületek (például SHAP vagy LIME vizualizációk), amelyek megmutatják, miért jutott az MI egy adott következtetésre
• Egyszerűen hozzáférhető felülírási vezérlők, amelyek használata nem jár társadalmi büntetéssel
• Audit naplók, amelyek minden emberi döntést rögzítenek az MI eredeti javaslata mellett
• Biztonságos leállító funkciók, amelyek lehetővé teszik az ellenőr számára a rendszer leállítását további lépcsőzetes beavatkozás nélkül

A HITL munkafolyamat megköveteli, hogy az értelmezhető kimenetek, a felülírási lehetőségek és a valós idejű beavatkozási képességek már a kezdetektől beépítve legyenek, ne az alkalmazás után utólag. Azok a rendszerek, amelyek három menü mélyen rejtik a felülírás gombját, nem valódi HITL rendszerek, függetlenül attól, mit állít a dokumentáció.

Az ember a hurkon (human-on-the-loop, HOTL) rendszerhez képest, ahol egy ember egy irányítópultot figyel és csak akkor avatkozik be, ha valami hibásnak tűnik, a HITL lassabb, de sokkal megbízhatóbb magas téttel bíró döntések esetén. A HOTL jól működik érett, jól beállított rendszerek esetén, ahol az hibaarány alacsony. A HITL a megfelelő választás, amikor egyetlen rossz döntés költsége magas.

A human-in-the-loop AI fő előnyei

A HITL melletti érv túlmutat a szabályozói megfelelésen. Megváltoztatja, hogy az AI rendszerekben mit lehet valóban megbízni.

• Hibafelismerés a káros hatás bekövetkezése előtt. Az emberi ellenőrök olyan hibákat észlelnek, amelyeket a bizalmi pontszámok nem jeleznek, különösen azokon a peremhelyzeteken, amelyeken a modell nem volt betanítva. A jobb megbízhatóság az egészségügy és a rendfenntartás magas tétű területein ezen rétegen múlik.
• Csökkentett automatizálási elfogultság. Aktív tervezés nélkül az emberek hajlamosak kritikátlanul elfogadni az MI eredményeit. Az olyan HITL rendszerek, amelyek könnyen engedélyezik és társadalmilag támogatják a felülbírálatot, közvetlenül visszaszorítják ezt a hajlamot.
• Folyamatos modellfejlesztés. Az emberi ellenőrök nem csak ellenőrzők, hanem kurátorok is. Javításaik címkézett adatokat szolgáltatnak, amelyek idővel növelik a modell pontosságát és csökkentik az emberi felülvizsgálatot igénylő esetek számát a későbbi ciklusokban.
• Felelősségre vonhatóság és auditálhatóság. Minden döntésnek van névvel ellátott emberi tulajdonosa. Ez rendkívül fontos a szabályozott iparágakban, ahol a szabályozónak pontosan be kell mutatni, ki mit és mikor hagyott jóvá.
• Jogi megfelelőség. Az EU-ban kockázatos MI-t alkalmazó szervezetek számára a HITL nem csupán legjobb gyakorlat, hanem az EU MI-törvény 14. cikke szerinti jogi követelmény.
• Felhasználói és érintetti bizalom. Az emberi ellenőrzéssel alátámasztott termékek és szolgáltatások nagyobb hitelességgel bírnak az ügyfelek, partnerek és szabályozók körében, mint a teljesen automatizált eredményekre támaszkodók.

A kihívások és korlátok, amelyekre érdemes felkészülni

A HITL nem ingyenes, és az ennek az ellenkezőjét színlelni rosszul megtervezett rendszerekhez vezet, amelyek a valós működési körülmények között kudarcot vallanak.

• Méretezési plafon. Az emberi figyelem véges. Ahogy a mesterséges intelligencia által előállított mennyiség nő, úgy nő a szükséges felülvizsgálók száma is, kivéve, ha a rendszer gondosan úgy van tervezve, hogy csak valóban bizonytalan eseteket továbbítson emberekhez.
• Költség. A képzett felülvizsgálók pénzbe kerülnek. Termelési környezetben a HITL működési költségek jelentős költségvetési tétellé válhatnak, különösen, ha a hamis pozitív arány magas, és ez felesleges felülvizsgálati sorokat generál.
• Emberi hiba és kognitív torzítás. A felülvizsgálók saját vakfoltokkal rendelkeznek. A fáradtság, az berögződéses torzítás és az időnyomás mind rontják a felülvizsgálat minőségét, néha az MI alap pontossága alá csökkenve.
• Felügyeleti fáradtság. A magas jelzésmennyiség idővel kimeríti a felülvizsgálók figyelmét. Egy olyan rendszer, amely túl sok alacsony kockázatú esetet jelöl, a felülvizsgálókat arra tanítja, hogy gyorsan hagyják jóvá őket valódi vizsgálat nélkül, ami ellentétes a valódi felügyeleti szándékkal.
• Adatvédelmi kitettség. Az emberi felülvizsgálók érzékeny adatokat látnak, például orvosi feljegyzéseket, pénzügyi tranzakciókat vagy személyazonossági okmányokat, ami adatvédelmi kötelezettségeket teremt a GDPR szerint. A szervezeteknek meg kell határozniuk, ki láthat mit, milyen feltételek mellett és meddig.
• Inkonzisztencia a felülvizsgálók között. Különböző felülvizsgálók eltérően döntenek az azonos esetekben. Kalibrációs protokollok és értékelők közötti megbízhatósági ellenőrzések nélkül a HITL rendszerek következetlen eredményeket produkálnak, amelyek aláássák a modell tanítási jelét.

A leggyakoribb meghibásodási mód nem az, hogy a HITL túl lassú. Hanem az, hogy a szervezetek bevezetik a HITL-t anélkül, hogy figyelembe vennék ezeknek a korlátoknak a tervezését, majd csak a gyártási terhelés alatt fedezik fel őket.

Ahol a HITL mesterséges intelligencia a gyakorlatban alkalmazott

A human-in-the-loop megközelítések minden iparágban megjelennek ott, ahol az automatizált hibák költsége elég magas ahhoz, hogy indokolja az emberi felülvizsgálat ráfordítását.

• Egészségügyi diagnosztika. A klinikai döntéstámogató eszközök a lehetséges diagnózisokat vagy gyógyszerkölcsönhatásokat az orvos felülvizsgálata céljából jelzik. A MI leszűkíti a lehetőségek körét; a klinikus hozza meg a döntést. Ez bevett gyakorlat a radiológiai MI területén, ahol a rendszerek kiemelik az érdeklődésre számot tartó területeket a vizsgálati képeken, de a radiológus minden leletet megerősít, mielőtt az bekerülne a betegnyilvántartásba.
• Ellátási lánc és minőség-ellenőrzés. A vállalati ellátásilánc-MI az összefoglalási és jelzési feladatokat automatizált rendszerekhez rendeli, miközben emberi szakértők a véglegesítés előtt felülvizsgálják a kritikus kimeneteket. Az AEGIS-Chain keretrendszer például autonóm módon feldolgozza a rutindöntések 78.4%-át, miközben a jelentős következményekkel járó helyzeteket emberi felülvizsgálókhoz továbbítja, és valamennyi működési ciklus során teljes, megváltoztathatatlan döntési nyomvonalat tart fenn.
• Személyazonosság-ellenőrzés és csalásfelderítés. A pénzügyi intézmények MI-t használnak a tranzakciók vagy személyazonosság-ellenőrzések pontozására, majd a határeseteket emberi elemzőkhöz irányítják. Bizonyos magas kockázatú személyazonosítási rendszerek esetében a döntéseket legalább két kompetens emberi felülvizsgálónak kell ellenőriznie az intézkedés megtétele előtt.
• Tartalommoderálás. A platformok MI-t használnak a szabályzatok megsértésének nagy léptékű észlelésére, de az emberi moderátorok felülvizsgálják a fellebbezéseket, a határeseteket és a különösen érzékeny tartalomkategóriákat, ahol a jogszerűséget a kontextus határozza meg.
• Termékadat-kezelés. A Dppgrid jellegű platformok MI-t használnak a termékadatok beszállítói dokumentumokból történő kinyerésére és rendszerezésére, de az emberi felhasználók felülvizsgálják és jóváhagyják ezeket az információkat, mielőtt azokat egy digitális termékútlevélben közzétennék. Az MI által generált javaslatokat soha nem kezelik automatikusan ellenőrzött tényekként.
• Jogi és megfelelőségi felülvizsgálat. A szerződéselemző eszközök az ügyvédi felülvizsgálatra jelzik a záradékokat. Az MI a nagy mennyiségű munkát kezeli; a mérlegelést az ügyvéd végzi.

Etikai szempontok és felelősség az EU jogában

A HITL etikai megalapozottsága Közép-Európában elválaszthatatlan a jogi alaptól. Az EU AI rendelet nem technikai finomságként kezeli az emberi felügyeletet. Alapvető biztonsági intézkedésként tekint rá.

Az EU AI rendelet 14. cikke előírja, hogy a nagy kockázatú MI rendszereket úgy kell megtervezni, hogy az emberi felügyelők teljes mértékben megérthessék a rendszer képességeit és korlátait, felismerhessék és kezelhessék a hibákat, illetve szükség esetén beavatkozhassanak vagy leállíthassák a rendszert. Különösen fontos, hogy a felülbírálati és leállítási funkciók könnyen elérhetők és társadalmilag támogatottak legyenek. Az a kultúra, ahol a felülvizsgálók nyomás alatt érzik magukat, hogy kérdés nélkül elfogadják az MI eredményeit, megfelelési hibát jelent, nem pusztán tervezési hibát.

Az automatizálási torzítás a HITL rendszerek legfőbb etikai kockázata. Az emberek természetüknél fogva hajlamosak az algoritmikus eredményeknek engedni, különösen akkor, ha ezek magabiztos pontszámokkal érkeznek, és a felülvizsgáló időnyomás alatt van. Ennek ellensúlyozása több mint egy jelölőnégyzet kitöltése. Képzést, munkaidő-menedzsmentet és olyan szervezeti normákat igényel, amelyek a felülbírálatot normális szakmai viselkedésként kezelik.

A hatékony felügyelethez a szervezettől három dolog szükséges:

• Képzett személyzet, aki érti, mit tud és mit nem tud az MI
• Valódi jogkör a rendszer felülbírálatára vagy leállítására anélkül, hogy azt magasabb szintre kellene emelni
• Megfelelő idő és eszközök valódi értékeléshez

Az EU AI rendelet büntetési struktúrája megerősíti ezt. A felügyeleti hibák akár a globális éves forgalom 3%-áig terjedő büntetéseket vonhatnak maguk után, míg a nem megfelelés esetén a büntetések elérhetik a 35 millió eurót vagy a globális forgalom 7%-át. Egy közepes méretű vállalkozás számára ez jelentős pénzügyi kockázat.

Az átláthatóság és az auditálhatóság a másik két pillér. Minden HITL döntést naplózni kell, időbélyeggel ellátni, és névvel ellátott felülvizsgálóhoz kell kötni. Ez teremti meg azt az audit nyomvonalat, amelyet a szabályozók, biztosítók és ügyfelek egyre inkább elvárnak, és amelyre a szervezeteknek szükségük van, ha valami nem stimmel.

Professzionális tipp: Építsd be a felülbírálati arányt a kulcsfontosságú teljesítménymutatóid közé. Egy olyan HITL rendszer, ahol a felülvizsgálók soha nem bírálják felül az MI-t, nem a nagyszerű modell bizonyítéka, hanem az automatizálási torzításé. Kövesd nyomon a felülbírálatok gyakoriságát felülvizsgáló, ügytípus és idő szerint.

Hogyan integráljuk a HITL-t a meglévő MI munkafolyamatokba

A HITL (ember a hurkon) utólagos beillesztése egy már üzembe helyezett mesterséges intelligencia rendszerbe nehezebb, mint az elejétől fogva beépíteni, de ritkán lehetetlen. A kulcs az, hogy meghatározzuk, hol ad az emberi ítélőképesség a legnagyobb értéket a költségekhez képest.

Kezdje az AI munkafolyamatának feltérképezésével és az eredmények következményszint szerinti osztályozásával. Azok a döntések, amelyek visszafordíthatók, alacsony tétűek és nagy mennyiségűek, automatizálásra vagy HOTL (ember a hurok túlsó oldalán) megfigyelésre alkalmasak. Azok a döntések, amelyek visszafordíthatatlanok, nagy téttel járnak vagy jogilag meghatározóak, HITL sorba tartoznak. Ez a szelektáló logika akadályozza meg, hogy a HITL rendszerek összeomoljanak a saját felülvizsgálati terhük alatt.

A felügyeleti modelleknek illeszkedniük kell a kockázathoz, mennyiséghez, érettséghez és szabályozáshoz. Az újonnan bevezetett vagy nagy hatású rendszerek HITL-t igényelnek, míg az érett, jól kalibrált rendszerek HOTL vagy HIC (ember a hurkon mellett) irányába mozdulhatnak el, ahogy nő a teljesítményükbe vetett bizalom. Ez nem egyszeri döntés, hanem egy kormányzási folyamat, amelyet rendszeresen felül kell vizsgálni.

Technikailag az integráció általában egy felülvizsgálati sor hozzáadását jelenti az AI kimeneti rétege és a végrehajtási réteg között, amelyet összekapcsolnak egy felülvizsgáló felülettel, amely bizalmi pontszámokat és magyarázhatósági kimeneteket tartalmaz, valamint minden döntést auditnaplóban rögzítenek. A legtöbb vállalati AI platform ezt az architektúrát natív módon támogatja. A nehezebb munka a szervezeti tervezés: a felülvizsgálói szerepek meghatározása, a munkaterhelési korlátok beállítása, és az eszkalációs utak létrehozása az olyan ügyek számára, amelyek meghaladják egyetlen felülvizsgáló hatáskörét.

Hogyan alakítja a HITL az AI modell képzési életciklusát

Az emberi visszajelzés nemcsak az egyedi döntéseket javítja, hanem az egész modellt formálja, a képzési életciklus minden szakaszában.

A kezdeti képzés során az emberi annotátorok címkézik az adatokat, meghatározzák a szélsőséges eseteket, és beállítják azokat a minőségi normákat, amelyeket a modell megtanul. Az annotáció pontossága közvetlenül meghatározza a modell teljesítményének felső határát. Az ezen a szinten elkövetett hibák minden további képzési ciklus során halmozódnak.

Az éles alkalmazás során az emberi ellenőrök folyamatosan generálnak korrekciós jelzéseket. Amikor egy ellenőr felülbírál egy mesterséges intelligencia által adott eredményt, ez a korrekció visszacsatolható új címkézett példaként, ami fokozatosan módosítja a modell viselkedését az emberi ítélethez való jobb igazodás irányába. Ez a mechanizmus áll az olyan technikák mögött, mint az emberi visszajelzésen alapuló megerősítéses tanulás (RLHF), amely központi szerepet tölt be a nagynyelvű modellek fejlesztésében.

Idővel egy jól megtervezett HITL rendszernek csökkentenie kell az általa igényelt ellenőrzési terheket. Ahogy a modell fejlődik, egyre kevesebb kimenet kerül a bizalmi küszöb alá, ami emberi ellenőrzést indokolna. Az emberi munkaórák a rutin korrekciókról a valóban újszerű vagy bizonytalan esetekre tolódnak, ahol az emberi ítélőképesség a legnagyobb értéket képviseli.

Adatminőség és annótációs standardok a HITL rendszerekben

Az emberi beavatkozással működő mesterséges intelligencia minősége közvetlenül attól függ, hogy az emberek milyen minőségű adatokat állítanak elő. Az annotáció nem egy árucikk-szerű feladat.

Az annotációs irányelveknek elég specifikusnak kell lenniük ahhoz, hogy két különböző annotátor ugyanarra a következtetésre jusson ugyanabban az esetben. Az annotátorok közti megbízhatóságot, amelyet például Cohen-kappa mutatóval mérnek, nyomon kell követni és jelenteni kell. Az alacsony egyetértési eredmények azt jelzik, hogy a feladatdefiníció homályos, nem pedig azt, hogy az annotátorok inkompetensek.

A HITL rendszerek adatminőségi szabványai általában négy területet fednek le: teljesség (nincsenek üresen hagyott kötelező mezők), következetesség (ugyanaz a fogalom az egész adathalmazon ugyanúgy van címkézve), pontosság (a címkék a valós tényeken alapulnak, nem az annotátor feltételezésein), és időszerűség (a javítások a következő képzési ciklus előtt visszakerülnek a modellbe, nem hónapokkal később).

A GDPR alá tartozó szervezetek esetében a személyes adatokat érintő megjegyzési munkafolyamatok adatminimalizálást, hozzáférés-ellenőrzéseket és megőrzési határidőket igényelnek. Az annotátoroknak csak azt szabad látniuk, amire a feladat elvégzéséhez szükségük van. Ez jogi követelmény és gyakorlati biztonsági intézkedés is egyben.

Hogyan lehet egyensúlyt találni az automatizálás és az emberi beavatkozás között

A HITL célja nem a maximális emberi részvétel, hanem a megfelelő emberi részvétel a megfelelő pillanatokban.

A bizalmi küszöb kalibrálása, amely emberi felülvizsgálatot vált ki, a legközvetlenebb eszköz. Ha túl alacsonyra állítják, a felülvizsgálók elárasztódnak könnyű esetekkel, amelyek figyelmüket pazarolják. Ha túl magasra, akkor valóban bizonytalan eredmények kerülnek át vizsgálat nélkül. A megfelelő küszöbérték az adott kontextusban a hamis pozitív és hamis negatív eredmények költségétől függ. A HITL modellek kalibrálása a hamis pozitívok csökkentése érdekében gyakran fontosabb, mint az érzékenység maximalizálása, mert a túl sok téves riasztás szükségtelen ellenőrzéseket okoz, és idővel rontja a felülvizsgálók figyelmét.

A munkaterhelés megtervezése ugyanolyan fontos, mint a küszöbérték kalibrálása. A felülvizsgálóknak olyan mennyiségű esetet kell kezelniük, amely lehetővé teszi a valódi értékelést, nem pedig olyan hosszú sort, amelyben a sebesség válik az egyetlen járható stratégiává. A rotációs beosztások, az egy esetre jutó felülvizsgálati időkorlátok és a kötelező szünetek mind csökkentik a fáradtságból eredő hibákat.

Az automatizálásnak kell elvégeznie a rutinfeladatokat. Az emberi figyelemnek a jelentős következményekkel járó feladatokra kell összpontosulnia. Az a beszállítói láncot támogató mesterségesintelligencia-rendszer, amely a döntések 78.4%-át rutinszerűként jelöli meg, a többit pedig emberi felülvizsgálatra irányítja, nem a minőség rovására egyszerűsít. A szűkös emberi mérlegelési kapacitást oda irányítja, ahol az ténylegesen megváltoztatja az eredményeket.

A termékadat-folyamatok,) esetében ez a kiegyensúlyozottság úgy néz ki, hogy az AI kinyeri és rendszerezi a beszállítói információkat, az emberi felülvizsgálók pedig jóváhagyják a közzétételt. Az AI kezeli a mennyiséget; az ember pedig a felelősségre vonhatóságot.

Főbb tanulságok

Az ember a körben AI megbízható, elszámoltatható AI döntéshozatalt biztosít azáltal, hogy szakképzett embereket helyez el a munkafolyamat kritikus pontjain, nem akadályként, hanem szándékos minőségi és megfelelőségi rétegként.

Gyakran Ismételt Kérdések

Mi az a human-in-the-loop az MI-ben?

A human-in-the-loop MI egy olyan rendszertervezés, ahol az ember meghatározott pontokon áttekinti, javítja vagy jóváhagyja a mesterséges intelligencia eredményeit, mielőtt azok valós világban ható intézkedéseket váltanának ki. Ez biztosítja, hogy a MI döntései magas tétű környezetben érdemi emberi ellenőrzés alatt maradjanak.

Mit jelent a human-in-the-loop a felelős MI-ben?

A felelős MI-ben a human-in-the-loop azt jelenti, hogy az emberek megőrzik a valódi hatáskört arra, hogy megértsék, megkérdőjelezzék és felülírják a MI eredményeit, ellensúlyozva az automatizációs elfogultságot és megfelelve az olyan szabályozásoknak, mint az EU AI-törvény elszámoltathatósági követelményei.

Mi a különbség a human-in-the-loop és a human-on-the-loop között?

A human-in-the-loop megköveteli az emberi jóváhagyást minden jelentős intézkedés előtt; a human-on-the-loop azt jelenti, hogy az emberek figyelik a rendszert és beavatkozhatnak, de nem hagyják jóvá minden eredményt. A megfelelő modell az alkalmazás kockázati szintjétől és döntési mennyiségétől függ.

Mi az a human-in-the-loop MI orvosi környezetben?

Az egészségügyben az emberi közreműködésen alapuló mesterséges intelligencia azt jelenti, hogy egy klinikus átnézi és megerősíti a mesterséges intelligencia által generált eredményeket, például egy radiológus jóváhagyja egy vizsgálat elemzését, mielőtt bármilyen eredmény eljutna a beteg nyilvántartásába vagy befolyásolná a kezelési döntést.

Ajánlott

• DPP Grid - Every product. One trusted passport.
• DPP Grid AI transparency
• Cookie notice