Cilvēks cilpā AI: Pilnīgs profesionāls ceļvedis

Cilvēks cilpā AI (HITL) ir dizaina modelis, kurā cilvēki aktīvi uzrauga, pārbauda un kontrolē AI rezultātus kritiskajos lēmumu punktos, neļaujot sistēmai darboties pilnīgi autonomi. Tas nav risinājums vājam AI. Tas ir apzināts arhitektūras izvēle, kas padara AI sistēmas uzticamākas, atbildīgākas un juridiski aizstāvējamākas, it īpaši tādos ietvaros kā ES AI regulējums.

Centrāleiropas profesionāļiem šī atšķirība ir ļoti svarīga. ES Mākslīgā intelekta likums, kas stājās spēkā 2024. gada augustā, nosaka saistošas cilvēka uzraudzības prasības augsta riska AI sistēmām ar soda naudām līdz pat 35 miljoniem eiro vai 7% no globālā apgrozījuma par pārkāpumiem, un līdz 3% no gada apgrozījuma par uzraudzības nepildīšanu. Pareiza cilvēka lomas nodrošināšana nav izvēles jautājums organizācijām, kas darbojas regulētās jomās.

Kas ir cilvēks cilpā AI?

Cilvēks cilpā AI attiecas uz jebkuru mākslīgā intelekta sistēmu, kas ir izstrādāta tā, lai cilvēks varētu pārskatīt, labot vai apstiprināt rezultātus pirms to īstenošanas reālajā pasaulē. Šis termins nāk no vadības sistēmu inženierijas, kur 'cilpa' apraksta atsauksmju ciklu starp sistēmu un tās vidi. Iekļaujot cilvēku šajā cilpā, cikls nevar noslēgties bez cilvēka apstiprinājuma.

Trīs galvenie elementi raksturo patiesu cilvēka cilpas iestatījumu:

• Cilvēka pārskats: Kvalificēta persona pārbauda AI radītos rezultātus pirms to izmantošanas, ne tikai tos reģistrējot.
• Korekciju pilnvaras: Pārskatītājs var brīvi mainīt, noraidīt vai ignorēt AI ieteikumu bez birokrātiskām vai organizatoriskām aizspriedumiem pieņemt to.
• Atsauksmju integrācija: Cilvēka veiktās korekcijas tiek ņemtas vērā modelī, uzlabojot nākotnes rezultātus laika gaitā.

Cilvēks cilpā (HITL) ietilpst plašākā uzraudzības modeļu grupā: cilvēks uz cilpas (HOTL), kur cilvēki monitorē, bet neiejaucas katrā ciklā, un cilvēks komandā (HIC), kur cilvēki saglabā galīgo kontroli pār visu sistēmu. Pareizais modelis ir atkarīgs no riska līmeņa, lēmumu apjoma un lietojuma regulatīvā konteksta.

Saskaņā ar ES Mākslīgā intelekta likumu, augsta riska AI sistēmām, kas aptver tādas jomas kā biometriskā identifikācija, kritiskā infrastruktūra, nodarbinātības atlases procesi un medicīniskās ierīces, likumiski jānodrošina efektīva cilvēka uzraudzība. Likumā, 14. pants, nosaka piecas atsevišķas spējas, kuras uzraudzības mehānismi ir jānodrošina, tostarp spēja saprast sistēmas darbību, atklāt kļūmes un nepieciešamības gadījumā iejaukties vai apturēt sistēmu.

Kā patiesībā darbojas cilvēks cilpā (human-in-the-loop) mākslīgajā intelektā?

HITL mehānika seko strukturētai darba plūsmai ar definētiem cilvēka pieskārieniem. Saprast, kur atrodas šie pieskārieni un kādi rīki tos atbalsta, ir tas, kas atšķir īstu HITL sistēmu no tās, kas tikai apgalvo, ka tai ir cilvēka uzraudzība.

Kodola darba plūsma:

1. Ievades posms: Dati nonāk mākslīgā intelekta sistēmā. Cilvēki var apstiprināt datu kvalitāti vai atzīmēt novirzes pirms apstrādes sākuma.
2. Apstrādes posms: Mākslīgais intelekts analizē ievadi un ģenerē kandidāta iznākumu, parasti ar pievienotu pārliecības līmeņa novērtējumu.
3. Pārbaudes posms: Cilvēka pārskats izvērtē iznākumu, pārliecības līmeni un jebkuru atbalstošu skaidrojumu. Viņi apstiprina, modificē vai noraida rezultātu.
4. Atsauksmju posms: Pārskata veicēja lēmums tiek ierakstīts un, ja iespējams, izmantots modeļa pārtrenēšanai vai kalibrēšanai.
5. Izpildes posms: Tikai pēc cilvēka apstiprinājuma iznākums iedarbojas uz tālākām darbībām.

Rīki, kas padara uzraudzību patiesu:

• Pārliecības līmeņa vērtējumi, kas iezīmē zemu pārliecību gadījumus, kuriem ir obligāta pārbaude
• Skidrojumu interfeisi (piemēram, SHAP vai LIME vizualizācijas), kas parāda, kāpēc mākslīgais intelekts nonāca pie secinājuma
• Pārspēšanas kontroles, kuras viegli piekļūt un kuru lietošanai nav sociālu sankciju
• Revīzijas žurnāli, kas ieraksta katru cilvēka lēmumu kopā ar sākotnējo mākslīgā intelekta ieteikumu
• Drošas apturēšanas funkcijas, kas ļauj pārskatītājiem apturēt sistēmu bez papildu eskalācijas

HITL darba plūsma prasa, lai interpretējami rezultāti, pārspēšanas iespējas un reāllaika iejaukšanās spējas būtu iebūvētas no sākuma, nevis pievienotas pēc palaišanas. Sistēmas, kurās pārspēšanas poga ir paslēpta trīs izvēlnēs dziļi, nav īsti HITL, neatkarīgi no dokumentācijas apgalvojumiem.

Salīdzinājumā ar cilvēku ārpus cilpas (human-on-the-loop), kur cilvēks tikai skatās paneļus un iejaucas tikai tad, kad kaut kas šķiet nepareizi, HITL ir lēnāks, taču daudz uzticamāks augsta riska lēmumos. HOTL labi strādā nobriedušām, labi kalibrētām sistēmām ar zemu kļūdu līmeni. HITL ir pareizā izvēle, ja viena nepareiza lēmuma izmaksas ir augstas.

Cilvēka iesaistes AI galvenās priekšrocības

Argumenti par labu HITL pārsniedz regulatorisko atbilstību. Tas maina to, kam AI sistēmas patiesi var būt uzticamas.

• Kļūdu atpazīšana pirms kaitējuma nodarīšanas. Cilvēka recenzenti atklāj kļūdas, ko pārliecības līmeņa rādītāji nepamana, īpaši gadījumos, kurus modelis nav apmācīts atpazīt. Lielāka uzticamība tādās svarīgās jomās kā veselības aprūpe un likumsargi ir atkarīga no šī slāņa.
• Samazināta automatizācijas aizspriedumu ietekme. Bez mērķtiecīgas sistēmas projektēšanas cilvēki tiecas nekritiski pieņemt AI rezultātus. HITL sistēmas, kas atvieglo pārrakstīšanu un sociāli atbalsta šādu rīcību, tieši cīnās pret šo tendenci.
• Pastāvīga modeļa uzlabošana. Cilvēka recenzenti darbojas kā kuratori, ne tikai pārbaudītāji. Viņu labojumi sniedz marķētus datus, kas uzlabo modeļa precizitāti laika gaitā un samazina cilvēka pārraudzības gadījumu skaitu turpmākajās reizēs.
• Atbildība un auditorija iespējamība. Katram lēmumam ir nosaukts cilvēka īpašnieks. Tas ir ļoti svarīgi regulētās industrijās, kur regulatoram jārāda precīzi, kas apstiprināja ko un kad.
• Juridiskā atbilstība. Organizācijām, kas ievieš augsta riska AI ES, HITL nav tikai ieteicamā prakse, bet juridiska prasība saskaņā ar ES Mākslīgā intelekta regulu 14. pantu.
• Lietotāju un ieinteresēto pušu uzticība. Produkti un pakalpojumi, ko atbalsta pārbaudīta cilvēka recenzija, klientu, partneru un regulatoru acīs ir ticamāki nekā pilnībā automatizēti risinājumi.

Plānojiet izaicinājumus un ierobežojumus

HITL nav bezmaksas, un tā noliegšana noved pie slikti projektētām sistēmām, kas neizdodas reālās darba vidēs.

• Skalējamības ierobežojums. Cilvēka uzmanība ir ierobežota. Pieaugot AI rezultātu apjomam, nepieciešamais recenzentu skaits arī pieaug, ja sistēma nav pārdomāti izstrādāta, lai cilvēkiem nodotu tikai reāli neskaidrus gadījumus.
• Izmaksas. Prasmīgi recenzenti maksā naudu. Ražošanas vidēs HITL ekspluatācijas izmaksas var kļūt par ievērojamu budžeta pozīciju, it īpaši, ja ir augsts false positive līmenis un rodas liekas pārbaudes rindas.
• Cilvēka kļūdas un kognitīvās aizspriedumi. Recenzentiem ir savi redzes lauki. Nogurums, piesaiste sākotnējam spriedumam un laika spiediens samazina pārbaudes kvalitāti, dažkārt pat zem AI bāzes precizitātes.
• Uzraudzības nogurums. Lielu trauksmes ziņojumu daudzums laika gaitā aizēno recenzentu uzmanību. Sistēma, kas signalizē pārāk daudz zema riska gadījumu, trenē recenzentus ātri apstiprināt bez patiesas pārbaudes, kas ir pretēji nozīmīgai uzraudzībai.
• Privātuma pakļaušana. Cilvēka recenzenti, redzot sensitīvus datus, piemēram, medicīniskos ierakstus, finanšu transakcijas vai identifikācijas dokumentus, rada datu aizsardzības pienākumus saskaņā ar GDPR. Organizācijām jādefinē, kas var ko redzēt, kādos apstākļos un cik ilgi.
• Atšķirības starp recenzentiem. Dažādi recenzenti pieņem dažādus lēmumus vienās un tajās pašās situācijās. Bez kalibrācijas protokoliem un starpnovērtējuma ticamības pārbaudēm HITL sistēmas rada nesaskaņotas atbildes, kas vājinās modeļa apmācības signālu.

Visizplatītākais kļūmes režīms nav tas, ka HITL ir pārāk lēns. Problēma ir tā, ka organizācijas ievieš HITL, neprojektējot to ar šiem ierobežojumiem, un pēc tam atklāj tos ražošanas slodzē.

Kur HITL AI tiek praktiski pielietots

Cilvēka iesaiste procesā parādās dažādās nozarēs tur, kur automatizētas kļūdas izmaksas ir pietiekami augstas, lai pamatotu cilvēka pārskatīšanas pievienotās izmaksas.

• Veselības aprūpes diagnostika. Klīnisko lēmumu atbalsta rīki ārsta pārskatīšanai atzīmē iespējamās diagnozes vai zāļu mijiedarbības. MI sašaurina iespējamo diagnožu loku; ārsts pieņem lēmumu. Tā ir standarta prakse radioloģijas MI jomā, kur sistēmas izceļ interesējošos apgabalus izmeklējumu attēlos, bet radiologs apstiprina katru atradumu, pirms tas nonāk pacienta medicīniskajā dokumentācijā.
• Piegādes ķēde un kvalitātes kontrole. Uzņēmumu piegādes ķēžu MI risinājumi automatizētām sistēmām uztic kopsavilkumu sagatavošanas un atzīmēšanas uzdevumus, savukārt cilvēku eksperti pirms galīgās noformēšanas pārskata kritiski svarīgos rezultātus. AEGIS-Chain ietvars, piemēram, autonomi apstrādā 78.4% rutīnas lēmumu, bet situācijas ar būtiskām sekām nodod cilvēku pārskatītājiem, saglabājot pilnīgu, nemaināmu lēmumu izsekošanas žurnālu visos darbības ciklos.
• Identitātes verifikācija un krāpšanas atklāšana. Finanšu iestādes izmanto MI, lai novērtētu darījumus vai identitātes pārbaudes, pēc tam robežgadījumus novirza cilvēku analītiķiem. Dažām augsta riska identifikācijas sistēmām lēmumi ir jāpārbauda vismaz diviem kompetentiem cilvēku pārskatītājiem, pirms tiek veikta darbība.
• Satura moderēšana. Platformas izmanto MI, lai plašā mērogā atklātu platformas politiku pārkāpumus, bet cilvēku moderatori izskata apelācijas, robežgadījumus un īpaši sensitīva satura kategorijas, kurās konteksts nosaka satura likumību.
• Produktu datu pārvaldība. Tādas platformas kā Dppgrid izmanto MI, lai no piegādātāju dokumentiem izgūtu un sakārtotu produktu datus, bet cilvēki, kas tās lieto, šo informāciju pārskata un apstiprina, pirms tā tiek publicēta digitālajā produkta pasē. MI ģenerētie ieteikumi nekad netiek automātiski uzskatīti par pārbaudītiem faktiem.
• Juridiskā un atbilstības pārbaude. Līgumu analīzes rīki atzīmē klauzulas jurista pārskatīšanai. MI apstrādā lielus apjomus; jurists nodrošina profesionālo izvērtējumu.

Ētiskie apsvērumi un atbildība saskaņā ar ES tiesībām

Ētiskie argumenti cilvēkam cilpā (HITL) ir nesaraujami saistīti ar tiesiskajiem argumentiem Centrāleiropā. ES Mākslīgā intelekta akts neuzskata cilvēka uzraudzību par tehnisku sīkumu. To traktē kā pamata drošības mehānismu.

Eiropas Savienības mākslīgā intelekta likuma 14. pants nosaka, ka augsta riska mākslīgā intelekta sistēmām jābūt izstrādātām tā, lai cilvēka pārraugi spētu pilnībā izprast sistēmas spējas un ierobežojumus, konstatēt un risināt kļūmes, kā arī nepieciešamības gadījumā iejaukties vai apturēt sistēmu. Ļoti svarīgi, ka pārrakstīšanas un apturēšanas funkcijām jābūt viegli pieejamām un sociāli atbalstītām. Kultūra, kurā pārskata veicēji jūtas spiesti pieņemt mākslīgā intelekta rezultātus bez jautājumu uzdošanas, ir atbilstības nepilnība, ne tikai dizaina kļūme.

Automatizācijas aizspriedumi ir galvenais ētiskais risks cilvēka un mākslīgā intelekta (HITL) sistēmās. Cilvēki dabiski tiecas uzticēties algoritmisko rezultātu iznākumiem, it īpaši tad, ja šie rezultāti tiek sniegti ar augstiem pārliecības rādītājiem un pārskatītājs darbojas zem laika spiediena. Lai to mazinātu, nepieciešams vairāk nekā vienkārši atzīmēt izvēles rūtiņu. Nepieciešama apmācība, darba slodzes pārvaldība un organizatoriskas normas, kas pārvarēšanu uzskata par normālu profesionālu rīcību.

Efektīvai uzraudzībai organizācijai nepieciešamas trīs lietas:

• Apmācīti darbinieki, kas saprot, ko AI var un ko nevar darīt
• Reāla pilnvara pārsūdzēt vai apturēt sistēmu bez eskalācijas
• Pietiekami daudz laika un rīku īstai izvērtēšanai

ES AI likuma soda struktūra to pastiprina. Uzraudzības kļūmes var izraisīt sodus līdz 3% no globālā gada apgrozījuma, savukārt atbilstības neievērošana nes sodus līdz 35 miljoniem eiro vai 7% no globālā apgrozījuma. Vidēja lieluma uzņēmumam tas ir būtisks finansiāls risks.

Caurspīdīgums un auditējamība ir citi balsti. Katram HITL lēmumam jābūt reģistrētam, laika zīmogam jāatbilst un tam jābūt piešķirtam konkrētam vērtētājam. Tas veido revīzijas pēdu, ko regulatori, apdrošinātāji un klienti arvien vairāk sagaida, un ko organizācijām vajag, kad kaut kas noiet greizi.

Pro padoms: Iekļaujiet pārsūdzējumu procentu savos KPI. HITL sistēmā, kur vērtētāji nekad nepārsūdz AI lēmumus, tas nav pierādījums lieliskam modelim. Tas ir pierādījums automatizācijas aizspriedumam. Izsekojiet pārsūdzējumu biežumu pēc vērtētāja, lietas veida un laika gaitā.

Kā integrēt HITL esošajos AI darbplūsmās

HITL pielāgošana jau izvietotai AI sistēmai ir grūtāka nekā tās ievišana no sākuma, bet tā reti kad ir neiespējama. Galvenais ir noteikt, kur cilvēka spriedums pievieno vislielāko vērtību attiecībā pret izmaksām.

Sāciet ar sava AI darbplūsmas kartēšanu un rezultātu klasifikāciju pēc sekas līmeņa. Lēmumi, kas ir atgriezeniski, ar zemu riska līmeni un lielu apjomu, ir piemēroti automatizācijai vai HOTL uzraudzībai. Lēmumi, kas ir neatgriezeniski, ar augstu riska līmeni vai juridisku nozīmi, jāiekļauj HITL rindā. Šī triažas loģika pasargā HITL sistēmas no pārslodzes to pašu pārskatu dēļ.

Uzraudzības modeļiem jāpielāgojas riskiem, apjomam, briedumam un regulējumam. Jauni vai īpaši ietekmīgi sistēmu ieviešanas gadījumi prasa cilvēka iesaisti vadībā (HITL), savukārt nobriedušas, labi kalibrētas sistēmas var pāriet uz cilvēka klātbūtni pārskatā (HOTL) vai cilvēka vadītu uzraudzību kopā ar sistēmu (HIC), jo palielinās pārliecība par to darbību. Tas nav vienreizējs lēmums, bet pārvaldības process, ko jāvērtē regulāri.

Tehniski integrācija parasti ietver pārskatīšanas rindas pievienošanu starp mākslīgā intelekta izvades slāni un izpildes slāni, savienojot šo rindu ar pārskata interfeisu, kurā ir pārliecības vērtējumi un skaidrojuma izvadījumi, kā arī katra lēmuma reģistrēšana revīzijas žurnālā. Lielākā daļa uzņēmumu mākslīgā intelekta platformu nativāli atbalsta šo arhitektūru. Grūtākais darbs ir organizatoriskā dizaina izveide: pārskata lomu definēšana, darba slodzes ierobežojumu noteikšana un eskalācijas ceļu izveide gadījumiem, kas pārsniedz viena pārskata piekrišanas pilnvaras.

Kā HITL ietekmē mākslīgā intelekta modeļa apmācības dzīves ciklu

Cilvēka atsauksmes ne tikai uzlabo atsevišķus lēmumus. Tās veido pašu modeli visos apmācību cikla posmos.

Sākotnējās apmācības laikā cilvēka anotatori apzīmē datus, definē robežgadījumus un nosaka kvalitātes standartus, no kuriem modelis mācās. Šīs apzīmēšanas precizitāte tieši nosaka modeļa snieguma augstāko līmeni. Anotācijas kļūdas šajā posmā uzkrājas katrā nākamajā apmācības ciklā.

Pielāgošanas laikā cilvēka pārskatītāji ģenerē nepārtrauktu labojumu signālu plūsmu. Kad pārskatītājs pārraksta mākslīgā intelekta rezultātu, šis labojums var tikt atgriezts kā jauns apzīmēts piemērs, pakāpeniski virzot modeļa uzvedību labākā saskaņotībā ar cilvēka spriedumu. Šis ir mehānisms aiz tādām tehnikām kā pastiprinātā mācīšanās ar cilvēka atsauksmēm (RLHF), kas ir kļuvusi par būtisku lielu valodas modeļu attīstībā.

Laika gaitā labi izstrādāta HITL sistēma vajadzētu samazināt savu pārskatīšanas slodzi. Kad modelis uzlabojas, mazāk rezultātu krīt zem uzticības sliekšņa, kas aktivizē cilvēka pārskatīšanu. Cilvēka darba slodze pāriet no rutīnas labojumiem uz patiesi jauniem vai neskaidriem gadījumiem, kur cilvēka spriedums sniedz vislielāko pievienoto vērtību.

Datu kvalitāte un anotācijas standarti HITL iestatījumos

Cilvēkā iesaistītās mākslīgā intelekta kvalitāte tieši atkarīga no cilvēku radīto datu kvalitātes. Anotācija nav rutīnas uzdevums.

Anotācijas vadlīnijām jābūt pietiekami specifiskām, lai divi dažādi anotētāji nonāktu pie viena un tā paša secinājuma par vienu un to pašu gadījumu. Starprēķinu uzticamība, mērāma ar tādiem rādītājiem kā Koena kappa, būtu jāuzrauga un jāpublicē. Zemas saskaņošanas vērtības liecina, ka uzdevuma definīcija ir neskaidra, nevis tas, ka anotētāji ir nekompetenti.

Datu kvalitātes standarti HITL iestatījumos parasti aptver četras jomas: pilnīgumu (nav atstāti kādi obligātie lauki tukši), konsekvenci (tas pats jēdziens visā datu kopā tiek apzīmēts vienādi), precizitāti (atzīmes atspoguļo reālo situāciju, nevis anotētāja pieņēmumus) un savlaicīgumu (korekcijas tiek atgrieztas modelī pirms nākamās apmācības kārtas, nevis pēc vairākiem mēnešiem).

Organizācijām, kas darbojas pēc GDPR, anotāciju darbplūsmās, kas ietver personas datus, jāpiemēro datu minimizācija, piekļuves kontroles un saglabāšanas ierobežojumi. Anotētājiem jāredz tikai tie dati, kas nepieciešami uzdevuma izpildei. Tas ir gan juridisks pienākums, gan praktiska drošības prasība.

Kā sabalansēt automatizāciju un cilvēka iejaukšanos

HITL mērķis nav maksimāla cilvēka iesaiste, bet pareiza cilvēka iesaiste pareizajos brīžos.

Paļāvības sliekšņa kalibrēšana, kas aktivizē cilvēka pārskatu, ir vistiešākais instruments. Ja to iestata pārāk zemu, pārskatītāji tiek pārpludināti ar viegliem gadījumiem, kas tērē viņu uzmanību. Ja pārāk augstu, reāli šaubīgi rezultāti tiek palaisti garām bez pārbaudes. Pareizais slieksnis ir atkarīgs no kļūdaini pozitīvo un kļūdaini negatīvo izmaksām jūsu konkrētajā kontekstā. HITL modeļu kalibrēšana, lai samazinātu kļūdaini pozitīvos, bieži ir svarīgāka nekā jutības maksimizēšana, jo pārmērīgas kļūdu trauksmes izraisa nevajadzīgas pārbaudes un laika gaitā pazemina pārskatītāju uzmanību.

Darba slodzes plānošana ir tikpat svarīga kā sliekšņa kalibrēšana. Pārskatītājiem jāapstrādā tik daudz gadījumu, lai būtu iespējama patiesa novērtēšana, nevis tik daudz, lai ātrums kļūtu par vienīgo dzīvotspējīgo stratēģiju. Rotācijas grafiki, laika ierobežojumi pārskatīšanai katram gadījumam un obligātās pauzes visi samazina kļūdas, kas rodas noguruma dēļ.

Automatizācijai būtu jāuzņemas rutīna. Cilvēka uzmanībai būtu jākoncentrējas uz būtisko. Piegādes ķēdes MI, kas 78.4% lēmumu atzīmē kā rutīnas lēmumus un pārējos nodod cilvēku pārskatīšanai, nav pavirša pieeja. Tā novirza ierobežotos cilvēka sprieduma resursus tur, kur tie patiešām ietekmē rezultātus.

Lai produktu datu darbplūsmās šo līdzsvaru saglabātu, mākslīgais intelekts iegūst un organizē piegādātāju informāciju, bet cilvēki pārskata un apstiprina, kas tiek publicēts. Mākslīgais intelekts apstrādā apjomu; cilvēks pārvalda atbildība.

Galvenās atziņas

Cilvēks cilpā AI nodrošina uzticamu un atbildīgu AI lēmumu pieņemšanu, novietojot kvalificētus cilvēkus kritiskos darbplūsmas posmos nevis kā aizķēruma punktu, bet kā apzinātu kvalitātes un atbilstības slāni.

BUJ

Kas ir cilvēks cilpā mākslīgajā intelektā?

Cilvēks cilpas procesā ir AI sistēmas dizains, kurā cilvēks pārskata, koriģē vai apstiprina AI rezultātus noteiktos posmos pirms šo rezultātu izmantošanas reālās darbībās. Tas nodrošina, ka AI lēmumi svarīgos kontekstos paliek nozīmīgā cilvēka kontroles ietvaros.

Ko nozīmē cilvēks cilpā atbildīgā mākslīgā intelekta kontekstā?

Atbildīgā mākslīgajā intelektā cilvēks cilpā nozīmē, ka cilvēki saglabā reālu pilnvaru saprast, apstrīdēt un pārrakstīt mākslīgā intelekta rezultātus, mazinot automatizācijas aizspriedumus un izpildot atbildības prasības tādos regulējumos kā ES Mākslīgā intelekta akts.

Kāda ir atšķirība starp cilvēku cilpā un cilvēku uz cilpas?

Cilvēks ciklā prasa cilvēka apstiprinājumu pirms katras būtiskas darbības; cilvēks uz cilpas nozīmē, ka cilvēki uzrauga sistēmu un var iejaukties, bet neapstiprina katru rezultātu. Pareizais modelis ir atkarīgs no riska līmeņa un lēmumu apjoma lietojumprogrammā.

Kas ir cilvēks cilpā mākslīgā intelekta izmantošanā medicīnas kontekstā?

Veselības aprūpē 'cilvēks cilpā' mākslīgais intelekts nozīmē, ka klīnicists pārskata un apstiprina mākslīgā intelekta izstrādātos secinājumus, piemēram, radiologs apstiprina skenēšanas analīzi, pirms jebkurš rezultāts nonāk pacienta ierakstā vai tiek izmantots ārstēšanas lēmumu pieņemšanai.

Ieteicams

• DPP Grid - Every product. One trusted passport.
• DPP Grid AI transparency
• Cookie notice