ИИ "решил", что СССР распался в 1992 году
ИИ "решил", что СССР распался в 1992 году. Такой пример ошибки в ответе ИИ приводит в своем блоге член СПЧ, специалист по ИИ, президент компании "Крибрум" Игорь Ашманов.
Он пишет, что попросил члена-корреспондента РАН и лидера "Родной школы" Алексея Савватеева написать ему несколько ярких примеров проблем с ИИ в образовании перед разговором с президентом РФ Владимиром Путиным. Накануне.RU писало о том, как Ашманов рассказал Путину о губительных последствиях внедрения ИИ в обучение. Эксперт рассказал президенту, что происходит массовое выхолащивание образования как такового. Школьники и студенты получают задания, отдают их ИИ и потом, не читая, сдают обратно, и у них возникает идея, что знать не обязательно - надо сдать. Рушится авторитет преподавателя, авторитетом для них становится ИИ. Что смогут в дальнейшем такие люди?
Ашманов приводит такие примеры из опыта Савватеева. На уроке истории в 9 классе ученик настаивает, что СССР распался в 1992 году. Когда учитель поправляет, тот отвечает, что учитель ошибается, так как "ИИ лучше знает". Это внедрение в голову ошибочных сведений, а также опускание статуса учителя. Другие примеры от ИИ:
• "треугольник", где три точки лежат на одной прямой;
• человек идет со скоростью 156 км/ч;
• отрицательное значение в геометрии;
• несуществующий в биологии термин "плазматические ламеллы второго типа".
Также учителя отмечают еще большее ухудшение связной речи детей, которые все загоняют в чат-бот, чтобы не думать самим. А кроме того, налицо усиление агрессии в чатах, чего еще недавно не было. Как выяснилось, дети спрашивают у ИИ, как лучше ответить, чтобы сильнее обидеть. ИИ советует им такие ругательства, до которых они никогда бы не додумались.
Дети стали чаще хамить учителям и родителям, ссылаясь на ИИ, который якобы умнее всех. Помимо всего этого, ИИ часто просто врет, а сгенерированные им тексты к тому же однообразны до тошноты, дети уже не видят нормальных текстов, так как не читают книг. Им всегда скучно, и у них уже никогда не наступает момента глубинной радости после того, как ими была разрешена трудная задача, нарисован красивый рисунок или схема, написано хорошее сочинение, выразившее свои мысли. Дети все хуже могут совершать волевые усилия.
"Сегодня мы имеем дело с тихой катастрофой, которая меняет сознание целого поколения. И имя ей — массовое, бесконтрольное использование ИИ школьниками. Это не только списывание, а смена парадигмы — системы правил и модели поведения!" — подчеркивает Ашманов.
Он говорит, что в текстах, которые генерирует ИИ, нет смысла, хотя ему доступны все тексты интернета. Более того, ИИ уже генерирует тексты на основании и тех текстов, которые были сгенерированы, включая явно ошибочные, что лишь накапливает ошибки.
Ранее Ашманов рассказал, как ИИ убил перевод текстов. Сейчас уже невозможно заказать хороший литературный перевод, потому что все переводческие конторы, даже самые дорогие, дают вначале перевести текст машине, а уже потом дорабатывают то, что получилось. По сути, теперь платишь только за "выглаживание" машинного перевода. Искушению сэкономить не может противостоять никто.
В России некоторые политики и банкиры призывают как можно быстрее внедрять ИИ в образование. Будто бы в противном случае Россия "отстанет".