Zamknij Dołącz do nas na Facebooku
Momencik, trwa przetwarzanie danych   loading-animation

Bazyliszek Roko to eksperyment myślowy, który stwierdza, że sztuczna superinteligencja...

Bazyliszek Roko to eksperyment myślowy, który stwierdza, że sztuczna superinteligencja w przyszłości mogłaby stworzyć symulację rzeczywistości wirtualnej w celu torturowania każdego, kto wiedział o jej potencjalnym istnieniu, ale nie przyczynił się bezpośrednio do jej powstania lub rozwoju. Eksperyment ten został opisany w poście z 2010 roku na forum dyskusyjnym LessWrong, technicznym forum skupiającym się na racjonalnych badaniach analitycznych. O ile wielu użytkowników forum LessWrong początkowo odrzuciło ten eksperyment jako zwykłe przypuszczenie lub spekulację, współzałożyciel LessWrong, Eliezer Yudkowsky, poinformował, że część użytkowników po przeczytaniu o bazyliszku Roko opisywała koszmary senne i załamania psychiczne z powodu samej wiedzy o tym eksperymencie myślowym, czyniącym ją podatną na „atak” bazyliszka. Rozpoczęła się z tego powodu dyskusja nad pomysłem zakazu opisywania bazyliszka Roko na stronie forum przez pięć lat.
💡 WIĘCEJ
Głosów
15
(w tym negatywnych:
0
)
dobre
15
przez (PW)
Skomentuj Do ulubionych
Źródło: pl.wikipedia.org

Więcej informacji:

  • Współzałożyciel LessWrong, Eliezer Yudkowsky, początkowo proponował zakaz dyskusji o bazyliszku na forum, co jednak zostało potem uznane za przesadne.
  • Eksperyment służy jako ilustracja prawdopodobieństwa bayesowskiego i przypomina zakład Pascala.
  • W kontekście sztucznej inteligencji, bazyliszek Roko jest przykładem wyzwań dotyczących stworzenia moralnej SI.
Zobacz następny

Komentarze

Momencik, trwa ładowanie komentarzy   ładowanie…