Ilustrace: mohamed_hassan/pixabay
Jako výzkumník AI vyvíjející AI pro zdravotnictví se mě lidé často ptají, zda AI v budoucnu nahradí lidské lékaře.
Tato otázka není překvapením. Koneckonců žijeme v době, kdy technologie neustále vytlačují lidi. Stroje již desítky let automatizují činnosti vyžadující manuální práci.
Lékaři ale nejsou manuální dělníci. Být lékařem vyžaduje roky školení, bohaté zkušenosti s diagnostikou a léčbou pacientů, obrovské množství znalostí o lidském těle, vysokou úroveň inteligence a bystrý úsudek.
Mohou počítače dosáhnout všech těchto kvalit, aby mohly vykonávat práci lékařů?
A právě v této otázce je vážná chyba. Je naše napodobování konečným cílem AI? Musíme vyvinout AI, která nám bude konkurovat? Nemůžeme místo toho navrhnout systémy, které s námi spolupracují, rozšiřují naše schopnosti a pomáhají nám dělat věci lépe?
Ukazuje se, že můžeme, ale nejprve musíme změnit své myšlení.
„Drosophila of reasoning“
Po slavné prohře se šachovým superpočítačem IBM ‚Deep Blue‘ v roce 1997 se Garry Kasparov vůči umělé inteligenci nezachoval nepřátelsky. Místo toho se stal hlasitým zastáncem spolupráce mezi lidmi a stroji. Začal to, co se později stalo kentaurskými šachy.
V řecké mytologii je kentaur hybridní zvíře, které je napůl člověk a napůl kůň. Každý kentaurský šachista je složený tým lidí a počítačů. Počítače využívají svůj výpočetní výkon k tomu, aby zvládly miliony tahů a poskytly nejlepší sadu kandidátů. Lidští hráči uplatní svůj úsudek a zkušenosti, aby si z této sady vybrali jeden tah, o kterém se domnívají, že je strategicky nejzdravější.
Kdo podle vás vyhrál turnaj v raném volném šachu, kterého se účastnili lidé, počítače a hybridní týmy mezi lidmi a počítači? Ne lidští velmistři. Ne nejlépe hodnocené šachové algoritmy běžící na superpočítačích. Tým, který vyhrál, byl kentaur složený ze dvou amatérských šachistů, kterým pomáhaly tři běžné počítače.
Kasparov nazval šachy „drosophilou uvažování“1. Po dlouhou dobu sloužil jako konečný test inteligence strojů. Dokonce i v počátcích vývoje AI stroje vynikaly v přijímání krátkodobých taktických rozhodnutí. Například počítače byly lepší než lidé v šachových koncovkách. Expertní lidští hráči však byli mnohem lepší v přijímání dlouhodobých strategických rozhodnutí, jako je rozhodování, zda obětovat figurku, aby získali poziční výhodu.
V ostatních polích vidíme stejné vzory. Umělá inteligence překonává lidi v uzavřených úkolech, zatímco lidé zůstávají mnohem lepší v provádění více otevřených činností. Zvažte systémy s umělou inteligencí pro zkoumání radiologických skenů. Počítače se již vyrovnají nebo dokonce předčí odborné radiology v detekci specifických stavů z lékařských snímků. Nemohou však interpretovat skeny v kontextu osobních údajů pacienta a jeho lékařské anamnézy. To vyžaduje pochopení lidské anatomie a chorobných procesů.
„AI nemůže zcela automatizovat hlášení radiologických skenů, ale to nezabrání AI vytvářet hodnotu,“ řekl Amit Kharat, spoluzakladatel společnosti DeepTek, kde pracuji. „Pomocí umělé inteligence k rozšíření schopností našich radiologů můžeme poskytovat kvalitnější zprávy v kratších časech, což v konečném důsledku zlepšuje kvalitu a cenovou dostupnost lékařského zobrazování.“
Také: přečtěte si: Nepříjemná pravda o kvantovém počítání
AI ve zdravotnictví
Výzkumníci AI se tradičně zaměřují na vývoj algoritmů, které dokážou replikovat lidskou inteligenci. Jejich primárním cílem bylo zlepšit autonomii strojů. Ale ve skutečnosti nepotřebujeme AI, aby byla autonomní. Potřebujeme, aby umělá inteligence byla spolehlivá a důvěryhodná.
Lidé vynikají v některých věcech a počítače vynikají v jiných věcech. Potřebujeme systémy, které přinesou to nejlepší z obou – tak, aby jejich kombinace byla mnohem efektivnější, než by kdy mohl být kterýkoli z nich samostatně.
To se samozřejmě snadněji řekne, než udělá a vyžaduje změnu paradigmatu v myšlení jak vývojářů AI, tak jejich případných uživatelů. Aby vyhodnotili výkon svých algoritmů, vývojáři je porovnávají s tím, jak lidé plní stejný úkol. To znamená, že by mohli porovnat systém rozpoznávání obrázků s tím, jak dobře mohou lidé rozpoznat obrázky z testovacího souboru dat. Mohli by otestovat radiologický diagnostický systém proti rozhodnutím lidských radiologů.
Abychom vyvinuli skutečně kolaborativní umělou inteligenci, budeme potřebovat novější měření výkonu, která jsou kolaborativní namísto srovnávacích. Potřebujeme metriky, které neměří, jak dobře si umělá inteligence vede sama o sobě, ale jak dobře funguje kombinace složeného týmu lidí a AI při společné práci. Takové metriky výrazně změní konkurenční paradigma, podle kterého se dnes AI vyvíjí.
Například místo hodnocení systému umělé inteligence pro rozpoznávání obličejů jeho porovnáváním s tím, jak dobří lidé jsou v rozpoznávání tváří, můžete porovnat, jak dobří jsou lidští čtenáři, když jim pomáhá umělá inteligence, se stejnými lidskými čtenáři, když jim nepomáhá AI.
Spolu s přijetím společných měřítek výkonu musíme také navrhnout rozhraní, která zvýší důvěru uživatelů v AI, která je vede. Uživatelé, zejména ti v oborech, které vyžadují značné znalosti a odborné znalosti, jsou k radám generovaným umělou inteligencí skeptičtí.
V nedávné studii byly radiologům zobrazeny rentgenové snímky hrudníku a jejich diagnózy a byli požádáni, aby vyhodnotili správnost diagnóz. Všechny diagnózy byly vytvořeny lidskými odborníky, ale některé z nich byly falešně označeny, jako by pocházely ze systému AI.
Těmto radiologům byly později položeny otázky o kvalitě diagnóz, které zkoumali. Důsledně hodnotili diagnózy jako méně kvalitní, když si mysleli, že kontrolují verdikt systému AI místo lidského experta.
Jak můžeme vyvinout systémy, které zlepšují efektivitu začleněním prvků umělé inteligence a zároveň chrání lidské jednání, účast a kreativitu?
Přečtěte si také: Proč musíme uvolnit AI z hranic lidského poznání
Umělá inteligence zaměřená na člověka
"V budoucnu budeme používat AI k rozpoznání skrytých vzorců, které nejsou viditelné pro oko odborníka, ale radiologové budou tato rozhodnutí posuzovat na základě klinického a právního kontextu," Vinay Duddalwar, profesor radiologie na univerzitě. z jižní Kalifornie a známý výzkumník pracující v této oblasti, řekl.
V eseji z ledna 2022 Erik Brynjolfsson, ředitel Stanford Digital Economy Lab, nakreslil ostrou hranici mezi umělou inteligencí podobnou člověku a umělou inteligencí zaměřenou na člověka. Replikováním a automatizací lidských schopností promění umělá inteligence podobná lidem ze strojů levnější náhražky lidských pracovníků.
Nakonec pracovníci ztratí svou ekonomickou a politickou vyjednávací sílu a stanou se stále více závislými na těch, kteří technologii ovládají. Na druhou stranu umělá inteligence zaměřená na člověka rozšíří lidské schopnosti a umožní lidem dělat věci, které nikdy předtím nemohli.
Nahrazením různých tříd pracovníků jednoho po druhém bude lidská umělá inteligence pomalu koncentrovat moc a peníze do rukou několika. Tím, že posiluje postavení pracovníků a poskytuje jim stále cennější příležitosti, nám umělá inteligence zaměřená na člověka dá šanci vytvořit prosperující, inkluzivní a rovnoprávnější společnost. Obojí zvýší produktivitu – ale to druhé zajistí, že lidé zůstanou nepostradatelní pro vytváření hodnot a rozhodování.
Jako společnost musíme tato rozhodnutí činit vědomě a společně. Stejně jako všechny formy technologie je AI nástroj. Zda je to dobrota nebo prokletí, záleží na tom, jak s ním nakládáme a jak dovolujeme druhým, aby se tím chovali.
Když se mě tedy lidé ptají, zda umělá inteligence v budoucnu nahradí lékaře, srdečně si půjčím list od Garryho Kasparova. Říkám jim, že nevidím, že umělá inteligence v budoucnu nahradí lékaře – ale že vidím, že lékaři, kteří používají umělou inteligenci, nahrazují lékaře, kteří umělou inteligenci nepoužívají.
Duddalwar to pěkně shrnul, když parafrázoval nultý zákon robotiky Isaaca Asimova: „V konečném důsledku nesmí systém umělé inteligence ublížit lidstvu nebo nečinností dovolit lidstvu ublížit. Umělá inteligence zaměřená na člověka to zajistí.“
Viraj Kulkarni má magisterský titul v oboru počítačových věd na University of Calfornia v Berkeley a v současné době studuje doktorát v oboru kvantové umělé inteligence. Je také hlavním datovým vědcem společnosti DeepTek. Je na Twitteru na @VirajZero.
