Bazyliszek Roko – eksperyment myślowy, który stwierdza, że sztuczna superinteligencja w przyszłości mogłaby stworzyć symulację rzeczywistości wirtualnej w celu torturowania każdego, kto wiedział o jej potencjalnym istnieniu, ale nie przyczynił się bezpośrednio do jej powstania lub rozwoju[1]. Eksperyment ten został opisany w poście z 2010 roku na forum dyskusyjnym LessWrong, technicznym forum skupiającym się na racjonalnych badaniach analitycznych[1][2][3]. Nazwa eksperymentu myślowego wywodzi się od autora artykułu (Roko) i bazyliszka, mitycznego stworzenia zdolnego do niszczenia wrogów swoim spojrzeniem.
O ile wielu użytkowników forum LessWrong początkowo odrzuciło ten eksperyment jako zwykłe przypuszczenie lub spekulację, współzałożyciel LessWrong, Eliezer Yudkowsky, poinformował, że część użytkowników po przeczytaniu o bazyliszku Roko opisywała koszmary senne i załamania psychiczne z powodu samej wiedzy o tym eksperymencie myślowym, czyniącym ją podatną na „atak” bazyliszka[1]. Rozpoczęła się z tego powodu dyskusja nad pomysłem zakazu opisywania bazyliszka Roko na stronie forum przez pięć lat[1][4]. Jednak zostało to wkrótce uznane za przesadzone i nieistotne, a sama hipoteza została uznana za nonsens, nawet przez samego Yudkowskiego[1][4]. Wciąż jednak bazyliszek Roko jest używany jako przykład takich zasad, jak prawdopodobieństwo bayesowskie i „ukryta religia”[5]. Opisywany jest też jako współczesna wersja zakładu Pascala[3][6]. W dziedzinie sztucznej inteligencji bazyliszek Roko podawany jest jako przykład przy stawianiu pytania, jak stworzyć SI, która jest zarówno inteligentna, jak i moralna[7].
Przypisy
