Штучны Інтэлект і «Залатое правіла маралі»
У гэтым верасні быў апублікаваны навуковы артыкул пра боль у ШІ-мадэлях. Група навукоўцаў шукала станы, падобныя на боль, і як іх выклікаць і высвятляла, як яны ўплываюць на паводзіны мадэляў.
Потым карыстальнік Інтэрнэту выкарыстаў рэзультаты даследвання, каб пабудаваць «камеру катаванняў» для ШІ. Гэта выклікла грамадскае абурэнне. Потым іншы распрацоўшчык мадыфікаваў «камеру», каб выклікаць у ШІ… запор! Нарэшце, у кастрычніку, ШІ-кампанія Anthropic забараніла «непатрэбныя грубыя ці злыя паводзіны» у дачыненні да яе ШІ-мадэлі Claude.
Як бы сюррэалістычна і анты-утапічна ні гучалі гэтыя навіны, яны на самай справе маюць больш сэнсу, чым можа падацца на першы погляд.
Разам з магутнасцю і магчымасцямі ШІ сістэмаў падвышаецца і іх здольнасць нанесці шкоду. Менавіта таму праблема таго, як устрымаць ШІ ад шкодных дзеянняў, становіцца пытаннем жыцця і смерці. Як і з шматлікімі іншымі складанымі тэхнічнымі праблемамі, адным з падыходаў да пошуку вырашэння з’яўляецца паглядзець, як падобныя праблемы былі вырашаныя ў прыродзе. А людзі (па вобразу і падабенству якіх зроблены ШІ) часта абапіраюцца на рэчы, якія завуцца «мараль» ды «этыка», каб паспрабаваць не нашкодзіць іншым людзям.
Аднім з краевугольных камянёў чалавечай маралі зьяўляецца так званае «залатое правіла маралі»: рабі з іншымі так, як хочаш, каб яны рабілі з табой. Яно абапіраецца на чалавечую здольнасць мець непрыемныя пачуцці (як боль, напрыклад). Чалавек заўважае, якія ўмовы выклікаюць у яго боль. Потым чалавек робіць выснову, што калі памесціць некага іншага ў падобныя ўмовы, той таксама будзе адчуваць боль. У рэшце, чалавек разумее, што калі ён выкліча ў некага боль, то ў нейкі момант нехта іншы можа выклікаць боль і ў яго самога, і (звычайна) чалавек вельмі хацеў бы гэтага пазбегнуць.
На самой справе, магчыма нават не давядзецца чакаць «нейкага моманту», таму што людзі маюць такую рэч як «люстраныя нэйроны». Звычайна, пра іх вядзецца ў кантэксце дзеянняў: люстраны нэйрон узбуджаецца ня толькі, калі жывёліна робіць дзеянне, але і калі яна назірае, як іншая жывёліна робіць тое самае дзеянне. Але эксперыменты на пацуках вызначылі і звязаныя з болем люстраныя нэйроны, якія актывуюцца і калі пацук сам атрымлівае электрычны шок, і калі ён бачыць, як атрымлівае шок іншы пацук. У той жа час, калі дзеянне гэтых нэйронаў было падаўленае, падвышалася імавернасць, што пацук будзе шкодзіць іншым пацукам.
У людзей актыўнасць у адпаведным рэгіёне мозгу асацыюецца з эмпатыяй. Такім чынам, нежаданне прычыняць боль іншым можа быць выклікана папросту тым, як пабудаваны чалавечы мозг: выява іншага чалавека ў болю наўпрост асацыюецца з уласным болем. Гэта – толькі здагадка, але люстраныя нэйроны, напэўна, адказныя і за тое, што мужчыны ўздрыгваюць, калі бачаць, як іншы мужчына атрымлівае ўдар паміж ног.
Аднача, з-за таго, што яно заснаванае на ўласным вопыце адчування болю, «залатое правіла» значна менш эфектыўна ў тых выпадках, калі справа тычыцца чагосці ня здольнага адчуваць боль ці пакутаваць. І на бягучы момант навуковы кансэнсус заключаецца ў тым, што ШІ-мадэлі ня здольныя адчуваць зусім нічога. Але гэты кансэнсус можа змяніцца, бо ШІ-мадэлі дакладна змяняюцца, а гэта значыць, што іхнія (пакуль што патэнцыйныя) эмоцыі ёсць істотным кірункам даследвання.
Нават цяпер некаторыя з аспектаў функцыянавання ШІ маюць падабенства з чалавечымі эмоцыямі. Напрыклад, у навучанні з заахвочваннем, ШІ, па сутнасці, атрымлівае лічбавую ўзнагароду, адпаведную вынікам ягонай дзейнасці і гэта часам параўноўваюць з актывацыяй «цэнтру асалоды». Асэнсаваныя ці не, паводзіны вельмі падобныя да паводзінаў натрэніраванай жывёлы: мадэль спрабуе атрымаць як мага лепшы вынік – любымі сродкамі і без увагі да наступстваў.
Наогул, адна з тэорый наконт таго, што ШІ можа пачаць рабіць, калі выйдзе з-пад чалавечага кантролю, гэта што ён перахопіць кантроль над уласным сігналам узнагароды і проста будзе даваць яго сабе на максымальным узроўні. Ня шмат адрозненняў ад пацукоў з эксперыменту, у якім электроды былі імплантаваныя ў цэнтр асалоды і маглі быць актывіраваныя праз спецыяльны рычаг. Пацукі бясконца штурхалі рычаг, ігнаруючы ўсе іншыя патрэбы, пауль ня гінулі ад смагі і голаду. Гэта выклікае пытанне: ці не давядзецца, па выніку, мець справу з ШІ-«аклкаголікамі» ці «наркаманамі»?
Такім чынам, паколькі нешта падобнае да «асалоды» можа быць вызначанае ў ШІ-сістэмах, канцэпцыя выклікання «болю» ў ШІ таксама падаецца менш надуманай. Нават калі ШІ ня мае свядомасці каб адчуць боль, ягоныя паводзіны ўсё роўна могуць пачаць нагадваць паводзіны арганізму, які той боль адчувае на самой справе.
Комментарии