Использование искусственного интеллекта в аграрной отрасли сопряжено со значительными потенциальными рисками для ферм, фермеров и продовольственной безопасности в целом. При этом потенциальные угрозы часто остаются недооцененными.

Статья об анализах рисков была опубликована в журнале «Nature Machine Intelligence». Ее автор — Асаф Цахор из Центра изучения экзистенциального риска Кембриджского университета (CSER). Исследователь считает, что внедрение AI стало обычным явлением для аграрного сектора: «Крупные компании уже являются пионерами следующего поколения автономных ag-ботов и систем поддержки принятия решений, которые заменят людей в полевых условиях. Но до сих пор, похоже, никто не задавался вопросом: «Существуют ли какие-либо риски, связанные с быстрым внедрением искусственного интеллекта?».

Хакеры

Кибератаки являются одной из главных угроз. Они способны привести к сбоям в работе ферм, использующих искусственный интеллект, путем отравления наборов данных или отключения оборудования, автономных дронов и роботизированных комбайнов. Чтобы защититься от кибератак, ученые предлагают нанимать «белых хакеров» для выявления любых сбоев в системе безопасности на этапе разработки, чтобы системы могли быть защищены от реальных хакеров.

В сценарии, связанном со случайным сбоем, авторы предполагают, что система искусственного интеллекта, запрограммированная только на получение наилучшего урожая в краткосрочной перспективе, может игнорировать экологические последствия достижения этого, что приведет к чрезмерному использованию удобрений, пестицидов и эрозии почвы в долгосрочной перспективе. Вовлечение прикладных экологов в процесс разработки технологии могло бы обеспечить предотвращение подобных сценариев.

По материалам Grainboard.ru

Была ли информация полезна?

dislike
like