Само девет гигантски технологични компании в САЩ и Китай стоят зад по-голямата част от напредъка в изкуствения интелект в световен мащаб. В новата си книга, Голямата деветка: Как техническите титани и техните машини за мислене могат да изкривят човечеството (PublicA Affairs, 5 март), Ейми Уеб предвижда три възможни фючърса, вариращи от оптимистични до апокалиптични, които биха могли да произтекат от действията, които предприемаме - или не предприемаме - за контрол на развитието на А.И. и оформят нейното глобално въздействие. В този откъс тя поставя поредица от тежки етични въпроси, които хората изграждат А.И. системите трябва да използват за насочване на работата си.
Правилата - алгоритъмът, по който всяка култура, общество и нация живее и е живяла, винаги са били създавани само от няколко души. Демокрация, комунизъм, социализъм, религия, веганство, нативизъм, колониализъм - това са конструкции, които сме разработили през историята, за да помогнем да ръководим своите решения. Дори в най-добрите случаи те не са устойчиви за бъдещето. Технологичните, социалните и икономическите сили винаги се намесват и ни карат да се адаптираме.
Десетте заповеди съставляват алгоритъм, предназначен да създаде по-добро общество за живите хора преди повече от 5000 години. Една от заповедите е да си почивате цял ден седмично и да не вършите никаква работа през този ден. В съвремието повечето хора не работят едни и същи дни или часове от седмица на седмица, така че би било невъзможно да не се наруши правилото. В резултат на това хората, които следват Десетте заповеди като ръководен принцип, са гъвкави в интерпретацията си, като се имат предвид реалностите на по-дългите работни дни, футболната практика и електронната поща. Адаптирането е добре - работи наистина добре за нас и за нашите общества, което ни позволява да останем на пътя. Съгласието на основен набор от насоки ни позволява да оптимизираме за себе си.
Нямаше да има начин да се създаде набор от заповеди за А.И. Не можахме да изпишем всички правила, за да оптимизираме правилно за човечеството, и това е така, защото, въпреки че мислещите машини може да са бързи и мощни, те нямат гъвкавост. Няма лесен начин да се симулират изключения или да се опитате да обмислите предварително всеки отделен случай. Каквито и правила да бъдат написани, винаги ще има обстоятелство в бъдеще, при което някои хора може да искат да тълкуват правилата по различен начин, или да ги игнорират напълно, или да създадат изменения, за да се справят с непредвидени обстоятелства.
Знаейки, че не можем да напишем набор от строги заповеди, които да следваме, трябва ли вместо това да насочим вниманието си към хората, изграждащи системите? Тези хора - племената на AI - трябва да си задават неудобни въпроси, започвайки с:
- Каква е нашата мотивация за AI? Съобразено ли е с най-добрите дългосрочни интереси на човечеството?
- Какви са нашите собствени пристрастия? Какви идеи, опит и ценности не успяхме да включим в нашето племе? Кого сме пренебрегнали?
- Включили ли сме хора, различни от нас, с цел да направим бъдещето на А.И. по-добре - или просто сме включили разнообразие в нашия екип, за да изпълним определени квоти?
- Как можем да гарантираме, че поведението ни е приобщаващо?
- Как са технологичните, икономическите и социалните последици от А.И. разбира се от участващите в създаването му?
- Какви основни права трябва да имаме, за да разпитваме наборите от данни, алгоритмите и процесите, които се използват за вземане на решения от наше име?
- Кой може да определи стойността на човешкия живот? Срещу какво се претегля тази стойност?
- Кога и защо хората от племената на AI смятат, че тяхната отговорност е да се справят със социалните последици от AI?
- Дали ръководството на нашата организация и нашата A.I. племена отразяват много различни видове хора?
- Каква роля имат онези, които комерсиализират А.И. игра в адресирането на социалните последици от А.И.?
- Трябва ли да продължим да сравняваме А.И. към човешкото мислене или за нас е по-добре да го категоризираме като нещо различно?
- Добре ли е да се изгради А.И. което разпознава и реагира на човешката емоция?
- Добре ли е да се направи А.И. системи, способни да имитират човешка емоция, особено ако се учи от нас в реално време?
- Каква е приемливата точка, в която всички сме добре с А.И. еволюира без хора директно в цикъл?
- При какви обстоятелства А.И. симулират и изпитват общочовешки емоции? Ами болката, загубата и самотата? Добре ли сме, причинявайки това страдание?
- Развиваме ли А.И. да търсим по-дълбоко разбиране за себе си? Можем ли да използваме A.I. да помогне на човечеството да живее по-изследван живот?
Има девет големи технологични компании - шест американски и три китайски - които са изключително отговорни за бъдещето на изкуствения интелект. В САЩ това са Google, Microsoft, Amazon, Facebook, IBM и Apple („G-MAFIA“). В Китай това е НДНТ: Baidu, Alibaba и Tencent.
G-MAFIA започна да разглежда проблема с ръководните принципи чрез различни изследователски и учебни групи. В рамките на Microsoft има екип, наречен FATE - за справедливост, отчетност, прозрачност и етика в A.I. След скандала с Cambridge Analytica, Facebook стартира екип по етика, който разработва софтуер, за да се увери, че неговият A.I. системите избягват пристрастия. (Забележително е, че Facebook не стигна дотам, че да създаде етичен съвет, фокусиран върху AI.) DeepMind създаде екип за етика и общество. IBM публикува редовно за етиката и A.I. След скандал в Baidu - търсачката даде приоритет на заблуждаващи медицински твърдения от болница, управлявана от военна служба, където лечението доведе до смъртта на 21-годишен студент - Главният изпълнителен директор на Baidu Робин Ли призна, че служителите са направили компромиси в името на нарастването на печалбите на Baidu и обеща да се съсредоточи върху етиката в бъдеще.
„Голямата деветка“ произвежда етични изследвания и бели книги, свиква експерти, които да обсъждат етиката, и е домакин на панели за етиката - но тези усилия не са достатъчно преплетени с ежедневните операции на различните екипи, работещи по А.И.
Големият девет на AI системите все по-често получават достъп до нашите реални данни, за да създават продукти, които показват търговска стойност. Циклите на развитие се ускоряват, за да бъдат в крак с очакванията на инвеститорите. Ние сме готови - ако не искаме - участници в бъдеще, което се създава прибързано и без първо да отговорим на всички тези въпроси. Както А.И. системите напредват и по-голямата част от ежедневието се автоматизира, толкова по-малко контрол всъщност имаме върху решенията, които се вземат за и за нас.
Ейми Уеб ще се появи в Inc. Къщата на основателите в Остин на 11 март.
