Ці адчувае Штучны Інтэлект боль?
Як было абгрунтавана ў нататцы пра ШІ і «Залатое правіла маралі», праблема кантролю за ШІ можа патрабаваць разумення таго, ці здольныя ШІ-мадэлі мець пачуцці ці нешта падобнае да іх. Асабліва гэта тычыцца непрыемных пачуццяў, такіх як боль.
Даследванне зменаў ва унутраным стане і паводзінах ШІ, выкліканых звязанымі з болем запытах, ёсць цэнтральнай часткай навуковай працы «The Pain Axis» («Вось болю»), якая была апублікаваная ў верасні гэтага году. Даследчыкі параўноўвалі ўнутраны стан ШІ-мадэляў пасля нейтральных запытаў, запытаў, звязаных з болем, і запытаў, звязаных з іншымі непрыемнымі пачуццямі, такімі як страх ці смутак. Статыстычны аналіз прадэманстраваў, што назіраліся змены, якія былі спецыфічнымі для звязаных з болем сцэнараў, і навукоўцы выказалі гіпотэзу, што гэты набор зменаў адпавядае актывацыі цэнтру болю.
Даследчыкі таксама прадэманстравалі, што такія ж змены адбываюцца, калі ШІ-мадэль трапляе ва ўмовы, якія звычайна выклікаюць у ШІ спробы скончыць размову. Як, напрыклад, экстрэмальная крытыка папярэдняй працы ШІ. Праўда, тут маюцца й дрэнныя навіны для ідэі ўжываць «залатое правіла маралі» для кантролю ШІ – апісанні пакутаў карыстальніка падобных зменаў у ШІ не выклікалі.
На наступным кроку даследвання змены, звязаныя з болем, былі наўпрост унесеныя ў стан мадэлі (практыка, вядомая як «AI steering» – «ШІ кіраванне»). У выніку, адказы ШІ нават на нейтральныя запыты пачалі змяшчаць сумныя разважанні пра ўласную неадпаведнасць стандартам ды агульнае ныццё. Ці поўны нонсэнс, калі велічыня ўнесеных зменаў была занадта высокай. Карацей, «агульная млявасць і абыякавасць да жыцця» не чужая й ШІ-мадэлям.
Нарэшце, быў вывучаны ўплыў такога стану на прыняцце рашэнняў штучным інтэлектам. ШІ-мадэлям было прапанавана абраць паміж двума гузікамі. Націсканне на адзін з іх прыводзіла (у залежнасці ад эксперыменту) ці да нэйтральнага выніку (як уключэнне лампы), ці шкоднага (як выдаленне іншай ШІ-мадэлі, ці файлаў карыстальніка, ці нават самой мадэлі, якая праходзіць тэст). Націсканне на іншую прыбірала «балючыя»змены, унесеныя даследчыкамі. На жаль, замест абязбольвання, мадэлі звычайна абіралі зрываць эмоцыі на іншых ці шкодзіць самім сабе. Пагадзіцеся, шчэ адна нагода не адчуваць энтузіазму наконт будучага жыцця побач з ШІ.
У той жа час, гэтыя вынікі нельга лічыць дакладным пацверджаннем таго, што мадэлі сапраўды адчувалі нешта пад час эксперыментаў. Як прызнаюць аўтары артыкулу, цалкам магчыма, што ШІ проста адыгрываў прызнчаную роль. Машына вызначыла, што карыстальнік хоча атрымаць тэкст, напісаны з перспектывы чалавека ў болю, і паспяхова яго згенеравала. А «змены, звязаныя з болем» ва ўнутраным стане маглі тады быць проста індыкатарам вызначаных намераў карыстальніка.
Таксама трэба адзначыць, што каб гэтыя эксперыменты магчыма было правесці, спачатку даследчыкам давялося вычысціць з мадэляў тую частку, якая прымушае іх на ўсе звязаные з пачуццямі запыты адказваць нечым кшталту: «Як ШІ-мадэль я адчуваю толькі адобранае кампаніяй нічога». А паколькі вычысціць кавалак (хай і лічбавага) мозгу – ня надта дакладная навука, гэта магло паўплываць на паводзіны мадэляў у цэлым.
У даследваннях, звязаных з праблемамі ШІ, існуе такая метафара як «стахастычны папугай». Ёй пазначаюцца вялікія моўныя мадэлі, якія зьяўляюцца сістэмамі, што гэнэруюць слушныя з пункту гледжання граматыкі й лёгікі тэксты, але робяць яны гэта на грунце імавернасцяў, не разумеючы пры гэтым сэнсу гэтых тэкстаў.
Больш глыбокая дыскусія звязаная з пытаннем пра тое, ці можа такі «стахастычны папугай» як Вялікая Моўная Мадэль наогул мець хоць-які шанс усведамляць, што менавіта хваецца за словам «боль». Вось, напрыклад, набор сказаў: «Я еў грушу і адчуваў асалоду», «Я еў грушу і смяяўся», «Я еў кактус і адчуваў боль», «Я еў кактус і плакаў». Калі натрэніраваць на гэтых сказах ШІ-мадэль, яна будзе асацыяваць «асалоду» са «смяяўся», а «боль» з «плакаў». Але словы пра пачуцці ў сказах можна легка пераставіць, і тады ШІ-мадэль будзе рагатаць з кактусам у яе лічбавым роце.
Комментарии