Илюстрация: mohamed_hassan/pixabay
Като изследовател на ИИ, разработващ ИИ за здравеопазване, хората често ме питат дали ИИ ще замени човешките лекари в бъдеще.
Въпросът не е изненада. В края на краищата живеем в епоха, в която виждаме как технологиите постоянно изместват хората. Машините автоматизират дейности, изискващи ръчен труд от десетилетия.
Но лекарите не са физически работници. Да бъдеш лекар изисква години обучение, богат опит в диагностицирането и лечението на пациенти, огромно количество познания за човешкото тяло, високи нива на интелигентност и остро чувство за преценка.
Могат ли компютрите да придобият всички тези качества, за да изпълняват работата на лекарите?
И точно в този въпрос се крие сериозна грешка. Имитирането ни ли е крайната цел за AI? Трябва ли да разработим AI, който да се конкурира с нас? Не можем ли вместо това да проектираме системи, които си сътрудничат с нас, увеличават нашите възможности и ни помагат да правим нещата по-добре?
Оказва се, че можем, но първо трябва да променим начина си на мислене.
„Дрозофила на разсъжденията“
След известната загуба от суперкомпютъра за игра на шах на IBM „Deep Blue“ през 1997 г., Гари Каспаров не се обърна враждебно към ИИ. Вместо това той се превърна в вокален защитник на сътрудничеството между хора и машини. Той постави началото на това, което по-късно стана шах с кентавър.
В гръцката митология кентавърът е хибридно животно, което е получовек и получовек. Всеки кентавър шахматист е съставен отбор от хора и компютри. Компютрите използват изчислителната си мощ, за да направят милиони ходове и да осигурят най-добрия набор от кандидати. Човешките играчи упражняват своята преценка и опит, за да изберат един ход от този набор, който смятат за най-стратегически стабилен.
В ранен турнир по шах в свободен стил, в който участваха хора, компютри и хибридни отбори човек-компютър, кой според вас спечели? Не човешките гросмайстори. Не са най-добре оценените шахматни алгоритми, работещи на суперкомпютри. Отборът, който спечели, беше кентавър, състоящ се от двама любители шахматисти, подпомагани от три обикновени компютъра.
Каспаров нарече шаха „дрозофилата на разсъжденията“1. Дълго време той служи като върховен тест за машинна интелигентност. Дори в ранните дни на развитието на ИИ, машините превъзхождаха при вземането на краткосрочни тактически решения. Например, компютрите бяха по-добри от хората в крайните игри на шах. Опитните човешки играчи обаче бяха много по-добри във вземането на дългосрочни стратегически решения, като например да решат дали да пожертват фигура, за да получат позиционно предимство.
Виждаме същите модели в други полета. AI превъзхожда хората при задачи с ограничен край, докато хората остават значително по-добри при извършване на дейности с по-отворен край. Помислете за системи с активиран AI за изследване на радиологични сканирания. Компютрите вече съвпадат или дори надминават експертните рентгенолози в откриването на специфични състояния от медицински изображения. Но те не могат да интерпретират сканирането в контекста на личната информация и медицинската история на пациента. Това изисква разбиране на човешката анатомия и болестните процеси.
„ИИ не може напълно да автоматизира отчитането на радиологичните сканирания, но това не пречи на ИИ да създава стойност“, каза Амит Карат, съосновател на DeepTek, където работя. „Като използваме AI, за да увеличим възможностите на нашите рентгенолози, можем да предоставяме доклади с по-добро качество за по-кратки срокове за изпълнение, като в крайна сметка подобряваме качеството и достъпността на медицинските изображения.“
Също така: прочетете: Неудобната истина за квантовите изчисления
ИИ в здравеопазването
Изследователите на AI традиционно се фокусират върху разработването на алгоритми, които могат да копират човешкия интелект. Основната им цел беше да подобрят автономността на машините. Но всъщност не се нуждаем от AI, за да бъдем автономни. Имаме нужда от AI, за да бъдем надеждни и заслужаващи доверие.
Хората превъзхождат в някои неща, а компютрите в други. Нуждаем се от системи, които извличат най-доброто и от двете – така че тяхната комбинация да е много по-ефективна, отколкото всяка от тях би могла да бъде сама по себе си.
Това, разбира се, е по-лесно да се каже, отколкото да се направи и изисква промяна на парадигмата в нагласите както на разработчиците на AI, така и на неговите евентуални потребители. За да оценят ефективността на техните алгоритми, разработчиците ги сравняват с това как хората се справят със същата задача. Това означава, че те могат да сравнят система за разпознаване на изображения с това колко добре хората могат да разпознават изображения от набор от тестови данни. Те могат да тестват система за радиологична диагностика срещу решенията на човешките рентгенолози.
За да разработим истински съвместен AI, ще ни трябват по-нови измервания на ефективността, които са съвместни, вместо сравнителни. Нуждаем се от показатели, които не измерват колко добре се справя AI сам по себе си, а колко добре се справя комбинацията от съставния екип човек-AI, когато работят заедно. Такива показатели ще извършат дълъг път в промяната на конкурентната парадигма, под която AI се разработва днес.
Например, вместо да оценявате AI система за разпознаване на лица, като я сравнявате с това колко добри са хората в разпознаването на лица, бихте могли да сравните колко добри са човешките четци, когато се подпомагат от AI, със същите човешки четци, когато не се подпомагат от AI.
Наред с приемането на съвместни мерки за ефективност, ние също трябва да проектираме интерфейси, които подобряват доверието на потребителите в ИИ, който ги ръководи. Потребителите, особено тези в дисциплини, които изискват значителни знания и опит, са скептични към съветите, генерирани от AI.
В скорошно проучване на рентгенолозите бяха показани рентгенови снимки на гръдния кош и техните диагнози и бяха помолени да оценят правилността на диагнозите. Всички диагнози бяха генерирани от човешки експерти, но някои от тях бяха фалшиво етикетирани, сякаш идват от AI система.
На тези рентгенолози по-късно бяха зададени въпроси относно качеството на диагностиката, която изследваха. Те последователно оценяваха диагнозите като по-ниско качество, когато смятаха, че проверяват присъдата на AI система вместо на човешки експерт.
Как можем да разработим системи, които подобряват ефективността чрез включване на AI елементи, като в същото време защитаваме човешката свобода на избор, участие и креативност?
Прочетете също: Защо трябва да освободим AI от границите на човешкото познание
ИИ, ориентиран към човека
„В бъдеще ще използваме изкуствен интелект, за да разпознаваме скрити модели, които не се виждат от експертното око, но рентгенолозите ще решават тези решения въз основа на клиничния и правния контекст“, Винай Дудалвар, професор по радиология в университета от Южна Калифорния и известен изследовател, работещ в тази област, каза.
В есе от януари 2022 г. Ерик Бриньолфсон, директор на Stanford Digital Economy Lab, начерта рязка граница между човекоподобния AI и човекоцентричния AI. Чрез възпроизвеждане и автоматизиране на човешки способности, човекоподобният AI ще превърне машините в по-евтини заместители на човешките работници.
В крайна сметка работниците ще загубят своята икономическа и политическа сила за договаряне и ще станат все по-зависими от тези, които контролират технологията. От друга страна, ориентираният към човека AI ще разшири човешките способности и ще позволи на хората да правят неща, които никога преди не са могли.
Чрез замяната на различни класове работници един по един, човекоподобният ИИ бавно ще концентрира властта и парите в ръцете на малцина. Чрез овластяване на работниците и предоставяне на все по-ценни възможности, AI, ориентиран към човека, ще ни даде шанс да създадем проспериращо, приобщаващо и по-равнопоставено общество. И двете ще повишат производителността – но последното ще гарантира, че хората остават незаменими за създаване на стойност и вземане на решения.
Като общество ние трябва да направим тези избори съзнателно и заедно. Както всички форми на технология, AI е инструмент. Дали това е благо или проклятие зависи от това как го владеем и как позволяваме на другите да го владеят.
Така че, когато хората ме питат дали изкуственият интелект ще замени лекарите в бъдеще, сърдечно вземам назаем лист от Гари Каспаров. Казвам им, че не виждам AI да замени лекарите в бъдеще – но че виждам лекари, които използват AI, да заменят лекарите, които не използват AI.
Duddalwar го обобщи добре, когато перифразира нулевия закон на роботиката на Айзък Азимов: „В крайна сметка една AI система не трябва да наранява човечеството или, чрез бездействие, да позволява на човечеството да пострада. Човешкият AI ще гарантира това.“
Viraj Kulkarni има магистърска степен по компютърни науки от Университета на Калфорния, Бъркли, и в момента следва докторска степен по квантов изкуствен интелект. Той е и главен учен по данни в DeepTek. Той е в Twitter на @VirajZero.
