Искусственный, но все еще не интеллект

Генеральный директор холдинга DZ Systems Дмитрий Завалишин прокомментировал в беседе с журналистом инцидент с "умной колонкой" Alexa: голосовой помощник дал пользователю потенциально опасный совет, после чего компания Amazon была вынуждена срочно вносить изменения в его код, чтобы подобные случаи не повторились. 

«Проблема в том, что сегодня искусственным интеллектом принято называть довольно примитивный механизм анализа голоса, к которому «прикручена» достаточно банальная поисковая система, работающая в сети Интернет, – отметил Дмитрий Завалишин.. – Это относится, разумеется, не только к «Алексе», но и ко всем подобным системам, которые не способны ответить ни на один вопрос с точки зрения именно интеллекта и маскируют это генерацией запросов в сеть Интернет, представляющую собой, как вы сами понимаете, ту еще помойку. И если мы сами, обращаясь к сети, как источнику информации, еще как-то можем полученное фильтровать, то все эти многочисленные поделки, которые нам продают под именем ИИ, делать этого физически не умеют, потому что не способны к семантическому анализу информации. Масштаб опасности, который вскрылся в этом инциденте с «Алексой» очевиден. Но вы только подумайте, сколько может быть опасностей не очевидных, или отложенных. Если, например, завтра кто-нибудь спросит «умную» колонку, куда вложить последние деньги? Ведь ответ будет результатом тупого поиска в Интернете с непредсказуемой эффективностью. Представить себе ситуацию, когда пользователь обращается к такой системе и получает совет, способный привести к очень неприятным отложенным последствиям, – например, о самолечении, или об обращении с химически активными веществами, – очень просто».

С материалом полностью можно ознакомиться ЗДЕСЬ.