Перейти к содержимому

Выбор редактора

Ещё раз про роботов и Искусственный Интеллект (ИИ)




С IQ 10000 у роботов с ИИ нам, биологическим людям, будет практически невозможно конкурировать.... этому первому роботу-гуманоиды с человеческим именем София король Саудовской Аравии дал гражданство.
Смешанное чувство после просмотра этого интервью: интересно что же будет дальше, несколько страшно за будущее (хотя робот старательно успокаивал, что не надо читать Илона Маска и смотреть Голливудские страшилки про роботов) и неприятно одновременно.

“You [people] are very programmable”- сказал Робот София...
Что-то не хочется, чтоб робота звали так же как мою дочурку....
Может все-таки человеческие имена оставить людям? Хоть как-то сможем отличаться в будущем.
Возможно это конкретное событие с презентацией робота Софии на Future Investment Initiative в Саудовской Аравии есть PR ход, не отрицаю.
И суть не в гражданстве, презентованном роботу, это вторично.
Суть в надвигающемся технологическом скачке, которое предоставит ИИ масштабы, сложность и последствия которого мы вряд ли сейчас осознаём.

До тех пор, пока программные продукты были жестко ограничены кодом и логикой программиста, и по сути являлись автоматизированным устоявшимся бизнес процессом, который разработали люди и который с введением программы ускоряется, упрощается - но не имеет возможности модифицироваться самостоятельно - такие продукты CRM, ERP, E-Doc, etc. - не несут в себе риска для процесса и для человека.
Они несут эффективность, увеличение производительности и улучшение принятия управленческих решений или сервиса населению.

Но как только программа научилась самообучаться, совершенствоваться и модифицироваться самостоятельно - здесь включается риск неизвестного.
Неизвестно - в какое состояние придёт программа - ИИ, изучив историю мировых войн и какое решение примет с точки зрения действий.
Неизвестно, что решит делать ИИ, изучив производство атомного и другого оружия. Посколько процесс q-learning для ИИ построен на количестве итерацией: чем больше действий сделано, тем более точно ИИ принимает решения и совершенствует процесс - прочитав и изучив все атомно вооружение создаст новое, ещё более совершенное?!

Неизвестно, чему научится и к каким выводам придёт программа, посмотрев фильм «Крестный Отец», как посоветовал Илон Маск...
А плюс ещё хакеры, недобрые люди, люди с другими задачами и ценностями.... Вариантов использовать роботов для зла - масса, и Голливуд об этом снял уже сотни фильмов.

А тут ещё мы - очень легко «программируемые», как сказал ИИ София. Нас программирую СМИ, реклама, новости, фильмы, другие люди....

И тоже неизвестно, как нас «запрограммирует» ИИ ...
Вот эта неизвестность выводов и последующих действий ИИ и является риском для человечества.

Может мы чего-то не знаем и разработчики ИИ знают как ограничить развитие и контролировать «сознание», «осознанность» ИИ и его «ценности», если можно так выразиться о компе.
Пока я такого не встречала. Вот сейчас закончу курс по созданию ИИ - может что нового узнаю. Поделюсь результатами. ))))

А пока - всем хорошего дня!

Автор: Лена Минич


При полном или частичном воспроизведении интернет-ресурсами материалов сайта, указание автора и прямой гиперссылки на материал обязательно. Печатным СМИ перепечатка без письменного разрешения администраци запрещена . Администрация может не разделять мнение автора и не несет ответственности за авторские материалы. Оценочные суждения не подлежат опровержению и доказыванию их правдивости. За достоверность и содержание рекламы ответственность несет рекламодатель.