Многие специалисты говорят, что будущее за искусственным интеллектом. Машины действительно очень упрощают нашу жизнь, особенно при ведении бизнеса. Чтобы не повторять одни и те же операции, мы пользуемся уже готовыми алгоритмами, не подозревая, что компьютер также может ошибаться. Вот пять основных причин, почему так происходит.
Плохой пример
В одной финансовой организации внедрили искусственный интеллект для автоматического одобрения кредитов клиентам. То есть если человек представляет все необходимые документы, то система сразу же одобряет его кандидатуру. Однако со временем выяснилось, что искусственный интеллект как-то предвзято относится к кандидатам, одобряя минимальное количество кредитов. Компьютерщики провели анализ и пришли к выводу, что машина одобряла точно такое же количество кредитов, как и обычные сотрудники банка. Это свидетельствует о том, что компьютер в точности старается скопировать предыдущую модель, созданную людьми, так что мы сами «подаем плохой пример» искусственному интеллекту.
Неверно введенные человеком поисковые запросы
Одна женщина долгое время удивлялась, почему работодатели упорно не откликаются на ее резюме, которое было просто идеальным по всем параметрам. Однажды она не выдержала и стала лично писать потенциальным работодателям на электронную почту. Один из них был в шоке, когда услышал о кандидатуре, которая подходит на все сто процентов, но которую почему-то забраковал искусственный интеллект. Потом выяснилось, что ошибка заключалась в неверных поисковых запросах, введенных рекрутером. Он указал в образовании степень бакалавра, а не магистра.
Гендерная предвзятость
Представьте себе, что искусственный интеллект действительно предвзято относится к кандидатам по признаку их гендерной принадлежности. Особенно ярко это видно в процессе найма. Так, например, машина «считает», что только мужчина может быть врачом, а женщина — медсестрой. Из-за этого происходит путаница, когда, к примеру, женщина с медицинским образованием не может отправить свое резюме на должность врача, поскольку анкету сразу исключает и блокирует искусственный интеллект, подбирая на данную должность только представителя сильного пола.
Хорошая новость заключается в том, что эти ошибочные закономерности можно отслеживать и сразу устранять. Кстати, гендерная предвзятость проявляется не только в названии должности, но и в эпитетах, прилагательных. Например, были случаи, когда машина «полагала», что только мужчина может быть креативным, а женщина — нет, поэтому женское резюме со словом «креативный» сразу блокировалось.
Нечто новое
Согласитесь, что не все сразу можно прописать в компьютере. Есть явления, которые будут вызывать сбои в работе. Яркий пример — это разработка приложения для распознавания лиц. Компьютерщики столкнулись с проблемой, что машина не может идентифицировать людей с веснушками на лице. Мало того, компьютер даже выдает результат, что это неодушевленный предмет. Потребовалось некоторое время для того, чтобы подкорректировать программу и люди с веснушками стали «восприниматься» искусственным интеллектом.
Еще был забавный момент, когда система распознавания изображений «приняла» фотографию дорожного знака «Стоп» с наклейками за холодильник.
Кибератака
Это самый очевидный вариант: когда киберпреступники умышленно создают сбои в системе, разрушая алгоритм. Из-за этого искусственный интеллект всегда уязвим, но существует выход из ситуации — можно инвестировать деньги в защиту от кибератак, устанавливать соответствующее программное обеспечение. Тогда можно будет обезопасить свой бизнес от серьезных сбоев.
Нашли нарушение? Пожаловаться на содержание