Superinteligentna sztuczna inteligencja przejmie władzę w ciągu najbliższych trzech lat i zabije ludzi, jeśli nie zostanie powstrzymana, ostrzeże "Ojciec chrzestny AI" ministrów.
Prof. Geoffrey Hinton, brytyjsko-kanadyjski laureat Nagrody Nobla znany ze swojej pracy nad rozwojem sieci neuronowych, spotka się w piątek z przywódcami rządu, aby przedstawić "przerażającą" sytuację.
Po raz pierwszy poruszono to podczas wykładów Hinton Fundacji AI w Toronto, podczas których eksperci twierdzili, że AI może również pokonać rządy w ciągu najbliższych sześciu do osiemnastu miesięcy.
Paul Christiano z Alignment Research Centre, które bada wzrost rozwoju AI, ostrzegł odbiorców, że "wiele osób zginie", gdy AI przejmie kontrolę.
"Uważam, że istnieje wysokie ryzyko przejęcia przez AI w ciągu najbliższych trzech lat, a realne ryzyko nawet w ciągu najbliższych sześciu do dwunastu miesięcy" – powiedział.
"Nawet jeśli tam nie umrzemy, przejęcie władzy jest swego rodzaju końcem ludzkiej suwerenności i samostanowienia i powinniśmy tego bardzo starać się uniknąć.
"Myślę, że dla większości osób w tym pokoju najprawdopodobniej umrą wypadek związany z AI."
Prof. Hinton, który nieoficjalnie doradza rządowi Wielkiej Brytanii w kwestiach AI, często ostrzegał przed zagrożeniami, ale nie zdawał sobie sprawy, jak bardzo przebieg czasu jest tak alarmujący.
"Chodziłem i mówiłem, że to wszystko stanie się mądrzejsze od nas i naprawdę musimy się martwić, może to się wydarzy w ciągu 10 lat, ale chodzę na wykłady Paula i mówi, że to może się wydarzyć w ciągu najbliższych 18 miesięcy i to jest przerażające," powiedział. "Więc w piątek powiem to kilku rządowym przywódcom.
"To, co się dzieje, jest niezwykle niebezpieczne. Ludzie tak naprawdę nie przyswoiali tego, co znaczy radzić sobie z superinteligentną AI. Jeśli jest superinteligentna, to nie ty będziesz nią sterować – to ona będzie kontrolować ciebie."
____
https://www.yahoo.com/news/science/articles/godfather-ai-warn-ministers-could-175501587.html
Przetlumaczono przez translator Google
zrodlo:https://stateofthenation.info/?p=87452
Brak komentarzy:
Prześlij komentarz