Чи може ШІ спричинити вимирання людства? Якщо алгоритми штучного інтелекту є упередженими або використовуються зі зловмисною метою — наприклад, у формі навмисних кампаній з дезінформації або автономної летальної зброї — вони можуть завдати значної шкоди людям. Хоча на даний момент, невідомо, чи здатний ШІ спричинити вимирання людства.
Багато дослідників штучного інтелекту бачать можливий майбутній розвиток надлюдського штучного інтелекту як такий, що має нетривіальний шанс спричинити вимирання людства, але також існує широка розбіжність і невизначеність щодо таких ризиків.
Шанси конфлікту. Багато вчених, у тому числі еволюційний психолог Стівен Пінкер, стверджують, що суперрозумна машина, ймовірно, мирно співіснуватиме з людьми. Страх кібернетичного бунту часто базується на інтерпретаціях історії людства, яка рясніє випадками поневолення та геноциду.
Після всебічного огляду літератури він пропонує передові інтелектуальні системи ніколи не можуть бути повністю керованими тому завжди представлятиме певний рівень ризику незалежно від користі, яку вони надають. Він вважає, що метою спільноти штучного інтелекту має бути мінімізація такого ризику при максимізації потенційної вигоди.
Приймаючи відповідальну розробку штучного інтелекту, встановлюючи етичні рамки та впроваджуючи ефективні правила, ми можемо переконатися, що штучний інтелект залишається потужним інструментом, який служить інтересам людства, а не стає силою панування. Отже, відповідь на запитання: чи замінить ШІ людей? безсумнівно, ВЕЛИКЕ НІ.