Oto najdziwniejsza praca zwiazana ze sztuczna inteligencja

Firma Anthropic, zajmująca się sztuczną inteligencją, ogłosiła niedawno, że . Anthropic poinformował, że będzie rozpatrywał takie kwestie, jak "zdolności wymagane, aby system sztucznej inteligencji był godny względów moralnych" i "praktyczne kroki, które firmy mogą podjąć w celu ochrony interesów systemów sztucznej inteligencji". Fish nie odpowiedział na prośbę o komentarz na temat swojej nowej pracy, ale na forum internetowym poświęconym obawom o naszą przyszłość opanowaną przez sztuczną inteligencję jasno stwierdził, że " e" — napisał. " " — dodał. Punkt zwrotny Myślenie o prawach robotów może wydać się głupie, a przynajmniej przedwczesne, zwłaszcza gdy prawa człowieka pozostają tak kruche i niekompletne. Jednak nowy zawód Fisha może być punktem zwrotnym w rozwoju sztucznej inteligencji. "Dobrostan AI" staje się poważną dziedziną badań i już teraz próbuje zmierzyć się z wieloma drażliwymi pytaniami. Jeśli chodzi o takie pytania, pionierzy praw AI uważają, że zegar tyka. W artykule, którego Fish jest współautorem, zatytułowanym "Taking AI Welfare Seriously" ("Poważne traktowanie dobrobytu AI"), on i grupa specjalistów od sztucznej inteligencji z takich ośrodków jak Stanford i Oxford przekonują, że algorytmy uczenia maszynowego są na dobrej drodze do posiadania tego, co Jeff Sebo, główny autor artykułu, nazywa "cechami obliczeniowymi związanymi ze świadomością i sprawczością". Innymi słowy, ludzie ci uważają, że maszyny stają się nie tylko inteligentne. Stają się świadome. Filozofowie i neuronaukowcy bez końca spierają się o to, co dokładnie stanowi świadomość, a tym bardziej o to, jak ją zmierzyć. Nie możesz też ot tak zapytać o to sztucznej inteligencji, bo może skłamać. Jednak ludzie na ogół zgadzają się, że jeśli coś ma świadomość i sprawczość, to ma również prawa. . Świnie są tak samo wrażliwe i inteligentne jak psy, ale jedno z tych zwierząt śpi na łóżku, a drugie jest przerabiane na kotlety. — Jeśli spojrzymy w przyszłość za 10 lub 20 lat, kiedy systemy sztucznej inteligencji będą miały znacznie więcej obliczeniowych cech poznawczych związanych ze świadomością i odczuwaniem, można sobie wyobrazić, że dojdzie do podobnych debat — mówi Sebo, dyrektor Centrum Umysłu, Etyki i Polityki na Uniwersytecie Nowojorskim. Fish podziela to przekonanie. "Jest dla mnie prawdopodobne, że w ciągu 1-2 dekad dobrostan AI przewyższy pod względem znaczenia/skali dobrostan zwierząt oraz globalne zdrowie i rozwój, wyłącznie na podstawie krótkoterminowego dobrobytu" — napisał. Kto troszczy się o dobrostan AI? Moim zdaniem to trochę dziwne, że ludzie, którzy najbardziej troszczą się o dobrostan sztucznej inteligencji, to ci sami ludzie, którzy są najbardziej przerażeni, że sztuczna inteligencja przerasta swoje możliwości. Anthropic, która określa siebie jako firmę zajmującą się sztuczną inteligencją i zaniepokojoną zagrożeniami stwarzanymi przez sztuczną inteligencję, częściowo sfinansowała artykuł zespołu Sebo. W pracy tej Fish informował o otrzymaniu finansowania od Centrum Efektywnego Altruizmu, będącego częścią sieci grup, które mają obsesję na punkcie "egzystencjalnego ryzyka" stwarzanego przez nieuczciwą sztuczną inteligencję. . Tak więc istnieje tu pewien paradoks. Zwolennicy sztucznej inteligencji twierdzą, że powinniśmy wykorzystać ją do wyręczenia ludzi z wszelkiego rodzaju obowiązków. Ostrzegają jednak również, że musimy być mili dla AI, ponieważ zranienie uczuć robota może być niemoralne i niebezpieczne. — Społeczność zajmująca się sztuczną inteligencją stara się przedstawić sprawę z obu stron — mówi Mildred Cho, pediatra ze Stanford Center for Biomedical Ethics. — Istnieje przekonanie, że powodem, dla którego powinniśmy angażować AI do wykonywania zadań typowych dla ludzi, jest to, że AI się nie nudzi, nie męczy, nie ma uczuć, nie musi jeść. A teraz ci ludzie mówią, że może ma prawa — dodał. Sceptycy stawiają pytania I tu pojawia się kolejna ironia w ruchu na rzecz robotów: Dzisiejsza technologia używana jest do takich rzeczy jak odmawianie opieki zdrowotnej umierającym dzieciom, rozpowszechnianie dezinformacji w sieciach społecznościowych i kierowanie dronami bojowymi wyposażonymi w pociski rakietowe. Niektórzy eksperci zastanawiają się, dlaczego Anthropic broni robotów, zamiast chronić ludzi, którym mają służyć. — — mówi Lisa Messeri, antropolożka z Yale, która zajmuje się badaniem naukowców i technologów. — Rozpocznijcie kampanię medialną o wszystkich osobach, które zatrudniacie, a które skupiają się na trosce o dobrostan tych, którzy są najbardziej dotknięci przez algorytmicznie generowane produkty danych — dodaje. Zdaniem Sebo badania nad sztuczną inteligencją mogą jednocześnie chronić roboty i ludzi. — Zdecydowanie nigdy, przenigdy nie chciałbym odciągać uwagi od naprawdę ważnych kwestii w zakresie dobrostanu ludzi, praw i sprawiedliwości, do których rozwiązywania słusznie zmuszane są firmy zajmujące się AI — mówi. — Myślę jednak, że jesteśmy w stanie myśleć o dobrostanie AI, jednocześnie robiąc więcej w pozostałych kwestiach — dodaje. Osoby sceptycznie nastawione do kwestii dobrostanu AI stawiają również inne interesujące pytanie. — Myślę, że pomijają to, że kiedy rozmawiamy o moralnej sprawczości, musimy również mówić o odpowiedzialności — mówi Cho. — Nie tylko o odpowiedzialności systemów AI jako części równania moralnego, ale także o odpowiedzialności ludzi, którzy rozwijają AI — dodaje. Ludzie budują roboty. Oznacza to, że mają obowiązek dbać o to, by roboty nie krzywdziły ludzi. A co, jeśli odpowiedzialnym podejściem jest budowanie ich w inny sposób lub całkowite zaprzestanie ich budowy? — — zwraca uwagę Cho. Ludziom z firm takich jak Anthropic nigdy nie przychodzi do głowy, że jeśli sztuczna inteligencja krzywdzi ludzi lub ludzie krzywdzą sztuczną inteligencję, mogą ją po prostu wyłączyć.