Недавно президент
Путин
заявил, что зарубежные оборонные ведомства инвестируют в развитие ИИ и добиваются значимых результатов, поэтому, чтобы сохранить «суверенитет и само существование России», российские технологии в сфере ИИ должны быть конкурентоспособны на мировом уровне, а «российская правовая база в сфере ИИ должна не сдерживать, а стимулировать разработку передовых технологий».Однако понимание многими чиновниками пути к достижению суверенитета и конкурентоспособности исключительно через цензуру становится большой проблемой.
Алгоритмы не нейтральны, потому что их создают люди, а люди не нейтральны по самой своей сути. Информационным цензором становится «горстка корыстных организаций» и это беда. Впрочем, сейчас этим информационным цензором все еще является государство и все «запретительные» инициативы, которые вызывают мало понимания среди населения, стратегически связаны с попыткой сохранить свою монополию.
Системы ИИ не нейтральны, и они влияют на то, как думают люди через целый набор «фильтров». Но такие же «фильтры» работают и в традиционных СМИ, о чем написали Эдвард Херман и Ноам Хомский
еще в 1988 году в знаменитой книге «Производство согласия. Политическая экономия массмедиа». Просто информацию, доступную через ИИ, фильтрует другой субъект, отсюда и конфликт государств с корпорациями, контролирующими ИИ, и государств, где базируются эти корпорации, с государствами, где они не базируются.
Системы ИИ не нейтральны. Но книги тоже не нейтральны. Тем не менее, человечество в целом давно пришло к выводу, что запрет книг — это путь в никуда. Отечественные чат-боты (вроде «Алисы») цензурировать можно, вообще запрещая высказываться на те или иные темы, но они при этом становятся малопригодными для интеллектуального пользования. Цензурировать же иностранные ИИ невозможно, их можно только заблокировать, но выход ли это?
Отказаться от ИИ в современном мире уже невозможно, а попытки его цензурировать будут либо снижать качество языковой модели и делать ее неконкурентоспособной, либо продуцировать собственные предубеждения цензоров, точно также превращая чат-бот не в аналитический инструмент, а в инструмент пропаганды (пусть даже «своей», а не «вражеской», но где гарантии, что «свой» цензор не может стать агентом «врага»?)
Вполне достаточно сделать так, чтобы люди хорошо разбирались в ИИ и понимали особенности собственного мышления, чтобы сознательно взвешивать риски и преимущества. При понимании того, как работают модели и их склонности воспроизводить одностороннюю картину действительности, пользователь может обращать внимание на противоречии в тексте, задавать наводящие вопросы и пытаться получить более сбалансированную информацию. Это значит, что
решение проблемы с предвзятостью ИИ лежит не в сфере ИИ (он всегда будет предвзятым), а вне ее — в сфере качественного массового образования и обучения критическому восприятию текстов и хотя бы базовым навыкам их анализа.
Цель не в том, чтобы контролировать то, что говорят чат-боты. Это так же бессмысленно и бесперспективно, как контроль за тем, что пишут писатели в книгах или комментаторы в соцсетях. История давно доказала, что результат всегда оказывается обратным. Цель в том, чтобы
воспитать интеллектуальное поколение с критическим мышлением и предоставить ему достаточно разнообразной информации для ее критической оценки.
Большое заблуждение считать, что народ глуп и только и ждет, как бы прочитать «вражескую» информацию и совершить предательство, и единственный спаситель — это цензор (которого берут из того же народа). Но народ может стать глупым, если ему ежедневно это внушать. Поэтому, как сказал президент, российская правовая база в сфере ИИ должна не сдерживать, а стимулировать разработку передовых технологий.
Подробнее о западных и отечественных исследованиях, касающихся предвзятости ИИ,
здесь.
Подписывайтесь на канал https://t.me/red_wolf_says
