Naukowcy i inżynierowie ostrzegają o niebezpieczeństwach sztucznej inteligencji

List otwarty, w którym wezwał do ostrożnego obchodzenia się z sztucznej inteligencji, podpisał dużą liczbę osób, w tym czołowych badaczy i naukowców w tej dziedzinie. Autorzy uważają, że AI nie powinny wykraczać poza naszą kontrolą.

Obawy związane z sztuczną inteligencją

Filmy takie jak „Terminator”, dają nam pełny obraz tego, co się dzieje, gdy roboty nie jest już w naszym zespole. Dlatego obawy wielu ludzi, w tym naukowców, nie można uznać za nieuzasadnione. Biorąc pod uwagę tempo rozwoju technologii komputerowej, jesteśmy coraz bliżej do punktu, gdy masz do czynienia z tymi zagadnieniami.

W grudniu Steven Hawking uruchomiła nową falę dyskusji wokół tego tematu. Biorąc pod uwagę fakt, że zdolność Hawkinga do komunikowania zależy od zaawansowanej technologii komputerowej, to nie da się zaliczyć do Luddites, ale jego umysł z pewnością przyciągnie uwagę.

List został zainicjowany przez Instytut przyszłego życia – „łagodzenie zagrożeń egzystencjalnych stoi ludzkość” dobrowolnej organizacji, która opisuje swoje cele jako

Co to jest o liście

W liście otwartym zauważa, że jest to możliwe w tych obszarach, aby przekroczyć próg oddzielający badaniach laboratoryjnych i rozwój technologii cennych gospodarczo, chociaż nawet drobne usprawnienia w wydajności są warte dużo pieniędzy. To powoduje wzrost przepływów inwestycyjnych w badaniu. To jest teraz staje się jasne, że badania sztucznej inteligencji stale postępuje, a jej wpływ na społeczeństwo prawdopodobnie wzrośnie. Potencjalne korzyści są ogromne, a wszystko, co cywilizacja ma do zaoferowania, jest wytworem ludzkiego umysłu. Nie jesteśmy w stanie przewidzieć, co możemy osiągnąć, jeśli przyzwyczajają się sztuczna inteligencja, ale zwalczania choroby i ubóstwo nie jest czymś niezrozumiałym. Biorąc pod uwagę ogromny potencjał sztucznej inteligencji, ważne jest, aby zrozumieć, w jaki sposób z niego korzystać, aby uniknąć potencjalnych pułapek.

Autorzy dodają, że nasz system sztucznej inteligencji powinien robić tylko to, co chcemy od nich, a nie przynieść szkody dla ludzi w tym samym czasie. Pismo także określać priorytetowe obszary badań, których autorzy wierzą, może przynieść maksymalne korzyści dla społeczeństwa.

Może powinieneś dołączyć?

Każdy może podpisać list, a tysiące ludzi zostało to zrobione. Chociaż wiele sygnatariuszami są zwykli ludzie, ale imiona takie jak sam Elon Musk Hawkinga, są łatwo rozpoznawalne. Wiele innych nazw na liście – czołowi naukowcy w dziedzinie IT i filozofii, w tym zespołu IBM.