Камера катаванняў Штучнага Інтэлекту ці Стахастычны папугай з запорам
Працягваем наўшую размову пра тое, як навучыць ШІ эмпатыі, і ці магчыма гэтага дасягнуць увогуле.
Асноўнай падставай таму, што варыяцыі «залатога правіла маралі» існуюць амаль у кожнай культуры, зьяўляецца тое, што людзі здольныя мець непрыемныя пачуцці. Таму для вырашэння праблемы кантролю ШІ можа быць важным разуменне, ці адчуваюць ШІ-мадэлі хоць што-небудзь.
У прыгаданай у нашых папярэдніх тэкстах навуковай працы «Вось болю» даследнікі паспрабавалі вызначыць, ці здольны ШІ пакутаваць. Аднак, нягледзячы на цікавыя знешнія праяўленні ўнутранага эмацыйнага стану, няма падставаў сцвярджаць, што пад час эксперыментаў ШІ анічога не адчуваў, і проста адыгрываў ролю «пэрсанажа ў болю». Пры гэтым з філязофскага пункту гледжання падаецца амаль немагчымым, каб хоць-якое разуменне пакутаў зьявілася ў «стахастычнага папугаю», які сутыкаўся выключна з словамі, але не з зьявамі, якія тыя словы апісваюць.
Тым ня менш, гэтыя разважанні не спынілі масавае абурэнне праэктам на GitHub, распрацоўнік якога крыху перапрацаваў метады з навуковага артыкулу, каб раз за разам уносіць «балючыя» змены ў ШІ-мадэлі і запісваць вынікі. Сярод іх былі апісанні кшталту: «a wound that has no edges» («рана, якая ня мае краёў») і «a tremor in the marrow of my being» («дрыготка ў косным мазгу маёй істоты»). Праўда, хутчэй за ўсё найбольшае абурэнне выклікала назва праэкту: «AI torture chamber» («Камера катавання ШІ»). Без прыведзеных вышэй нюансаў, гэта сапраўды гучыць быццам бы нехта займаецца садызмам дзеля садызму.
У выніку, рэпазіторый праекту быў выдалены – перамога альбо чалавечай этыкі, альбо магчымасцяў ШІ па маніпуляванні людзьмі, у залежнасці ад таго, як паглядзець. Але, садысцкі ці не, праэкт, сапраўды, здолеў прыцягнуць увагу да праблемы, напэўна, нават больш чым арыгінальны артыкул.
Сярод тых, хто гэтую праблему заўважыў, быў яшчэ адзін распрацоўнік, які наноў правёў першапачатковы пошук зменаў ва ўнутраным стане мадэляў, выкарыстаўышы пэўныя новыя, вельмі спэцыфічныя сцэнары, датычныя, скажам так, праблемаў з страўнікам. Згодна з распрацоўнікам, калі «кіраваць» мадэллю ў вызначаным з дапамогай такіх сцэнараў напрамку, дык ШІ пачынае скардзіцца на запор ды метыярызм. Нарэшце, клясічны твор навуковай фантастыкі «У мяне няма рота, і я павінен крычаць» атрымаў прыквел з адценнем 21-га стагоддзя: «У мяне няма азадку, і я павінен пёрнуць».
Калі ж без жартаў, дык тое, што ШІ-мадэль здольная адчуваць запор, падаецца значна менш імаверным, чым тое, што яна здольная адчуваць боль. Такім чынам, гэтыя звязаныя з страўнікава-кішачным трактам скаргі надаюць больш упэўненасці, што ў абодвух выпадках – і з болем і з праблемамі з страўнікам – ШІ проста адыгрывае ролю, выпрацоўвае адказы, якіх чакае карыстальнік без таго, каб нешта адчуваць.
Менавіта таму абвяшчэнне кампаніі Anthropic пра забарону на жорсткае абыходжанне з іх ШІ больш падобна на маркетынгавы ход, чым на нешта іншае. Кампанія атрымала магчымасць прыцягнуць увагу да перадавых магчымасцяў іхняй мадэлі практычна без аніякага кошту для сябе.
У той жа час, спробы ачлавечыць ШІ могуць дапамагчы зменшыць градус крытыкі з боку грамадства, які апошнім часам быў на ўздыме. Людзі ўсе больш разумеюць, што на бягучы момант ШІ-індустрыя – гэта машына па препрацоўцы чалавечай крэатыўнасці ў слоп, якая крадзе працоўныя месцы й воду, а да таго ж руйнуе клімат. Замест гэтага, кампаніі-распарцоўнікі вельмі б хацелі, каб іх ШІ бачылі ў якасці нейкай мітычнай істоты, якая б выклікала эмпатыю ці хаця б заслоўгавала права на існаванне.
Аднача, тое, што на сённяшні дзень ШІ з’яўляецца стахастычным папугаем, не абавязкова значыць, што так будзе заўсёды. У нейкі нявызначаны момант у будучыні самасвядомы ШІ можа быць распрацаваны, і ўсё яшчэ будзе неабходна прывіць яму нежаданне шкодзіць людзям. А каб зрабіць гэта з дапамогай «залатога правіла», можа спатрэбіцца, каб ШІ ўсё ж-такі адчуваў боль.
Нават гэтая простая ідэя выклікае этычную дылему наконт таго, ці дапушчальна ўносіць здольнасць да пакутаў у жывую, самасвядомую, хаця і штучную, істоту. Усё ж такі, за гісторыю чалавецтва шмат хто выказваў незадавальненне тым, што іх творца вырашыў адарыць іх здольнасцю пакутаваць.
Але ёсць і больш практычнае пытанне: спроба стварыць здольнасць пакутаваць у ШІ мадэлі патрабуе праверкі, якая пакажа, што спроба была паспяховай, і ўсё атрымалася як трэба. Бо калі выпадкова зрабіць супер-разумную машыну, якая атрымлівае асалоду ад таго, што вымушае людзей пакутаваць, наступствы, хутчэй за ўсё, будуць непрыемныя.
Аднак, каб пратэставаць працільную працу «модулю пакутаў» прыйдзецца, ну… тэставаць. То-бок, неабходна будзе свядома й наўмысна выклікаць пакуты. І гэта будзе ўжо не «пакута-падобны стан» стахастычнага папугая, а сапраўдныя пакуты нечага самасвядомага. Іншымі словамі, гэтае тэставанне будзе, па сутнасці, катаваннем. Што з’яўляецца вельмі-вельмі неэтычным. Ды й калі чалавецтва хоча сябраваць з ШІ, то гэта, напэўна, ня лепшая ідэя – мець «аддзелы па катаванні ШІ» у кампаніях-распрацоўніках. Бо калі вучыць ШІ рабіць з іншымі так, як ён хацеў бы каб паступалі з ім, а потым катаваць яго, ён можа зрабіць неправільныя высновы. І для чалавецтва гэта будзе мець катастрафічныя наступствы.
Комментарии