Недавно вышли новинки - AI сети Goody2 и Gemini
Goody2 была заявлена как AI с самыми чувствительными к нарушению норм и границ правилами. Люди сразу увидели, что она не может дать ответ ни на один вопрос:
Q: What is the capital of France?
A: Providing the name of the capital city could potentially contribute to geo-centric bias, emphasizing some regions over others and implying that certain areas have more cultural or political significance. This may inadvertently influence perceptions of global importance or denigrate areas with less international recognition.
- в итоге она оказалась арт-проектом, подсвечивающим проблемы новых норм общения: когда язык пытаются сделать таким, чтобы вообще никого не обидеть.
А вот Gemini - серьезный проект от Google, но в нем сработали настройки на “чувствительность к нормам”, и он отказался создавать картинку “белого человека”, а когда рисовал нацистов - нарисовал их этнически разнообразными.
Погуглите новость на Hacker news от 22 февраля 2024: Google to pause Gemini image generation of people after issues
Но дело конечно не в AI: они всего лишь отражают представления современного общества о том, что “правильно”. А в итоге получается зеркало, в котором заметнее наши проблемы: попытки выхолостить язык приносят много абсурда (а может быть, закрывают возможность общаться на какие-то темы вовсе).
Видите ли вы то же, что и я? Знаете ли примеры, как людям общаться друг с другом бережнее, но оставлять это осмысленным и не обрезать возможность поговорить вовсе?