Исследователи разработали новый инструмент, который помогает библиотекам анализировать и устранять системные предубеждения в своих системах поиска и рекомендаций на основе искусственного интеллекта. Искусственный интеллект все чаще используется в библиотеках для каталогизации и выдачи рекомендаций читателям, однако эти системы могут наследовать и усиливать существующие в обществе предубеждения. Это может приводить к тому, что определенные авторы, культуры или темы оказываются недостаточно представленными, тем самым ограничивая доступ читателей к разнообразной информации. Для решения этой проблемы Центр математики и информатики (CWI) в Нидерландах совместно с партнерами разработал специальную панель управления (dashboard). Этот инструмент визуализирует состав библиотечной коллекции и сравнивает его с тем, что рекомендуют алгоритмы ИИ. Он наглядно демонстрирует любые расхождения, например, по гендерному признаку или стране происхождения авторов, позволяя выявить скрытую предвзятость. Благодаря этой панели управления библиотекари получают возможность принимать обоснованные решения для обеспечения справедливости и разнообразия. Они могут корректировать алгоритмы рекомендаций или вручную курировать подборки, чтобы гарантировать, что все голоса и точки зрения будут услышаны, способствуя более равноправному доступу к знаниям.