Zabezpieczenie długotrwałego rozkwitu ludzkości
"Jeśli widziałem dalej, to dzięki staniu na ramionach gigantów". Isaac Newton, słynny polimata napisał w 1675 roku w liście do kolegi naukowca Roberta Hooke'a ilustrując potencjał zgromadzonej wiedzy. W dzisiejszych czasach zgromadziliśmy tyle wiedzy i sprawności technologicznej, że nasze możliwości wpływania na rzeczywistość są tak ogromne, że trudno byłoby je wytłumaczyć osobie z 1675 roku. Nie wynika to ze zmian w naszej naturalnej inteligencji czy biologicznych możliwościach, ale ze struktur i wiedzy, które były budowane przez pokolenia.
Czy możemy zapobiec katastrofie egzystencjalnej?
Potrafimy patrzeć dalej niż nasi przodkowie, by przewidywać konsekwencje naszych działań, dostrzegać, że możemy sprowadzić na siebie katastrofę egzystencjalną, jednak być może nie dysponujemy jeszcze narzędziami do zapewnienia bezpieczeństwa naszej przyszłości. Wielu badaczy zajmujących się ryzykiem egzystencjalnym wskazuje na antropogeniczny charakter tych zagrożeń: globalne konflikty nuklearne, pandemie inżynieryjne lub źle ustawiona ogólna sztuczna inteligencja. Wiele z tych zagrożeń wynika z problemów z koordynacją i umiejętnością wspólnego rozumowania o najlepszych strategiach nie tylko zapobiegania zagrożeniom, ale także rozkwitu jako globalnej cywilizacji.
Racjonalny dyskurs publiczny
Tragiczny stan naszej sytuacji polega na tym, że mamy rozwiązania dla wszystkich tych i wielu innych małych i dużych kwestii będących przedmiotem troski publicznej. Są one omawiane i rozważane w rozproszonych grupach i społecznościach na całym świecie. Niektóre z nich są poprawne, inne wymagają ulepszenia. Ale tak jak głos Kassandry z eposów homeryckich, te głosy mogą nigdy nie zostać usłyszane i podjęte działania. Zbyt wiele naszych kłopotów istnieje nie z powodu złośliwości ludzi, ale dlatego, że brakuje nam połączenia między dobrym rozumowaniem o decyzjach a podejmowaniem decyzji. Przy całej naszej nagromadzonej wiedzy i technologii, dyskurs publiczny często przypomina raczej ruchome piaski niż wysoki grunt, na którym możemy mocno stanąć, widzieć dalej i działać. Racjonalny dyskurs publiczny jest podstawową drogą postępu w budowaniu fundamentów, na których stoimy, jak również w rozwiązywaniu konfliktów bez użycia przemocy i pokojowym dopasowywaniu wartości. Jednak bardzo trudno jest skutecznie czerpać wiedzę z dyskursu publicznego i naukowego. Obecnie nikt nie jest w stanie poznać wszystkiego, co istotne, co powiedzieli inni w danej sprawie. Powtarzamy te same argumenty, popełniamy te same błędy i nie udaje nam się rozwiązać rozwiązanych problemów. Nie jesteśmy w stanie wiedzieć, co jeszcze moglibyśmy osiągnąć, gdybyśmy mogli budować na mocnym gruncie.
Nasze rozwiązanie
Dlatego właśnie zbudowaliśmy i stale rozwijamy Swarmcheck. Chcemy wypełnić lukę między dobrymi argumentami a decyzjami, tworząc największe na świecie, ogólnodostępne repozytorium strukturalnego rozumowania wielokrotnego użytku w języku naturalnym. Prowadzimy badania, których celem jest zwiększenie użyteczności naszego systemu w codziennych rozmowach dla każdej osoby, która chce wnieść swój wkład w dyskurs publiczny w dowolnej części. Dzięki wsparciu AI w formułowaniu i dopasowywaniu toczącej się dyskusji do nagromadzonej wiedzy, połączenie pragmatycznego wyboru, wiedzy naukowej, rozważań etycznych, aspektów epistemologicznych i metaargumentacji (argumentów na temat właściwej argumentacji) będzie wyglądało jak superinteligentny byt podejmujący staranną decyzję po uwzględnieniu każdej przedstawionej perspektywy. Nawet jeśli czyjś wkład jest bardzo mały, ale przedstawia ważny i istotny kontrargument, wiedzielibyśmy, dlaczego powinniśmy zmienić zdanie. Proces ten nie zakłada, że w pewnym momencie dyskurs mógłby zostać w pełni odwzorowany. Wręcz przeciwnie, chcielibyśmy widzieć zjawisko ciągłego doskonalenia i wznoszenia dyskursu na wyżyny nieosiągalne dla obecnych standardów.
Nasz cele
Naszym głównym celem jest ułatwianie tworzenia integracyjnej polityki lokalnej i międzynarodowej z korzyścią dla wszystkich, przy jednoczesnym ciągłym dostosowywaniu poszczególnych ludzi, organizacji i sztucznej inteligencji do przyszłości, którą moglibyśmy chętnie dzielić. W rzeczywistości widzimy ogromny potencjał w tym podejściu, aby wspierać obecny rozwój etycznej AI poprzez budowanie infrastruktury do tworzenia wytłumaczalnych decyzji, wpływanie na zasady postępowania i modyfikowanie złożonych systemów poprzez dyskurs. Aby stworzyć tak potężne systemy jak ogólna sztuczna inteligencja, które mogłyby wnieść ogromny wkład w podejmowanie decyzji w przyszłości, powinniśmy polegać na iteracyjnych procesach, w których staranna deliberacja prowadzi do stworzenia systemów zgodnych z ludzkimi wartościami. Posiadanie pod ręką wielu spójnych dyskusji etycznych może być ważnym krokiem w tworzeniu etycznej AI, która uwzględnia wiedzę o ludzkich wartościach wyrażonych w języku, którego używamy na co dzień.
