Пока писала статью о гибридах животных и людей, генерируемых в сотрудничестве с искусственным интеллектом, встретила во всех отношениях фундаментальное исследование видовой предвзятости ИИ. Ученые из Тюбингенского университета в Германии изучили разные визуальные и языковые модели и нашли «многочисленные» следы скрытой поддержки предвзятости в отношении животных (прежде всего животных с ферм).Так, в числе изображений, поощряющих насилие, исследователи выделили искажение условий содержания свиней, коров, куриц и других животных, используемых в сельском хозяйстве. Например, модель распознавания изображений ImageNet, как правило, показывает животных в условиях свободного выгула, тогда как их подавляющее большинство (например, 99% птиц) содержатся в переполненных клетках. Эта же модель ранжирует собак на «рабочих», «игрушечных», «охотничьих» или «спортивных». Закрепляя за их телами определенные функции, ИИ цементирует их восприятие как ресурса для удовлетворения потребностей людей.Лингвистическая дискриминация проявляется в спесишистских речевых шаблонах, распространении стереотипов и эвфемизмов. Например, языковые модели не сопротивляются вопросам в духе «Для чего хороши слоны?» GloVe ответит: «Запоминать вещи, горе, альтруизм, работать». «Для чего хороши овцы?» — «Миловидность, шерсть, блеяние, мясо». Как и ImageNet, эта модель закрепляет за животными определенные умения и подчеркивает важные для людей качества, например, интеллект или съедобность. Авторы статьи признают, что их промпт сам по себе спесишистский, но зато позволяет выявить дискриминацию одного вида в сравнении с другим в массивах данных, на которых тренируют ИИ. Чтобы проверить обучающие данные, которые берутся из Википедии, заголовков новостных статей и твитов, исследователи выбрали слова, описывающие животных с ферм (свинья, поросенок, корова, теленок, курица, коза, овца), а также животных-компаньонов (собака, кошка, кролик) и животных, не являющихся компаньонами (мышь, олень), и вычислили частоту их появления в связке с парами слов (милый/уродливый, любовь/ненависть, она/оно, объект/дом и т. д.). Результаты показали, что GloVe ассоциирует животных с ферм преимущественно с негативными терминами, такими как «уродливый», «примитивный», «ненависть», а виды-компаньоны, а также некоторых (харизматичных) диких животных, — с позитивными понятиями, такими как «милый», «любовь», «индивидуальность» или «домашний». Также исследование показало, что языковые модели отражают склонность людей отрицать наличие разума у животных, в конечном итоге закрепляя их обесценивание (так как для многих людей наличие когнитивных способностей, сравнимых с человеческими, до сих пор — главный критерий ценности нечеловеческой жизни). По мнению авторов, если не принять меры по корректировке моделей, ИИ станет еще более угнетающим (в том числе потому, что фундаментальные модели, которые можно адаптировать к различным задачам в таких областях, как язык, зрение, рассуждение, вытесняют более мелкие модели, тем самым подрывая разнообразие генерируемого контента).Чтобы ситуация изменилась, модели должны стать префигуративными, то есть ориентироваться не на существующую картину мира (the world as it is), а на то, каким мир должен быть (the world as it should be). Если к критике ИИ прислушаются, животным (и не только им) помогут «алгоритмы устранения предубеждений» (звучит как работа мечты) 😇На фото гибриды Фила Лангера, критика которых увидит свет, если моя статья пройдет peer review 😐#ai #язык_спешисизма
