Профессор Лувенского университета Изабель Феррерас призвала власти не ограничиваться внешним регулированием искусственного интеллекта и изменить управление компаниями, которые его разрабатывают. По её мнению, сотрудники должны участвовать в решениях о безопасности ИИ, а алгоритмы, влияющие на работников, нельзя внедрять без предварительных переговоров.
Феррерас — научный сотрудник Института этики ИИ Оксфордского университета и Центра труда и справедливой экономики Гарвардского университета. В беседе с The Guardian она заявила, что правительства часто рассматривают ИИ либо как обычный продукт, который нужно проверять на дефекты, либо как часть геополитической гонки, где ради конкуренции ослабляют ограничения.
Такой подход, считает исследовательница, игнорирует влияние технологий на общество. В компаниях, разрабатывающих передовые модели, включая OpenAI, Anthropic, Microsoft и Google, решения о ценностях и правилах работы ИИ принимают небольшие группы руководителей и инвесторов.
«Когда единственный способ для добросовестного инженера поднять тревогу — уйти, это явный признак того, что корпоративное управление в отрасли сломано», — сказала Феррерас.
Она указала на недавние уходы специалистов, связанных с безопасностью ИИ, из OpenAI и Anthropic. По словам Феррерас, публичные предупреждения сотрудников привлекают внимание лишь на короткое время, тогда как сама проблема — отсутствие действенного влияния работников на решения компаний — остаётся без ответа.
«Мы не сможем безопасно регулировать ИИ извне, если компании, которые его создают, внутри остаются автократиями», — заявила исследовательница.
Феррерас предлагает запретить соглашения о неразглашении и отказе от критики, если они мешают сотрудникам сообщать об угрозах безопасности, и усилить защиту информаторов. Она также выступает за независимые каналы для сообщений о нарушениях и официальное представительство работников в лабораториях до выпуска новых моделей.
Отдельное предложение касается алгоритмов, которые следят за сотрудниками, оценивают их или применяются для дисциплинарных решений. По мнению Феррерас, такие системы нельзя внедрять без предварительных переговоров с работниками. На национальном уровне и в Евросоюзе она предлагает рассмотреть коллективные переговоры об использовании ИИ, право профсоюзов или производственных советов блокировать внедрение систем и запрет на автоматическое увольнение.
Исследовательница считает, что участие работников должно распространяться и на руководство компаний: она предлагает ввести избираемых сотрудниками директоров и систему, при которой для стратегических решений требуется согласие как представителей капитала, так и работников.
«Технологические революции не приводят автоматически к общему процветанию. Институты определяют, кто получает выгоду и кто расплачивается за перемены», — написала Феррерас, ссылаясь на работы лауреатов Нобелевской премии по экономике 2024 года Дарона Аджемоглу и Саймона Джонсона.
По её мнению, регулирования со стороны государства и редких сигналов информаторов недостаточно: без участия тех, кто создаёт ИИ и сталкивается с последствиями его применения, решения будут оставаться сосредоточенными в руках руководителей и инвесторов.
Оригинал этой публикации впервые появился на localhost.

17:52














