У ИИ появится начальство

Если вас напрягает проникновение ИИ во все сферы жизни, и вы часто вспоминаете сюжет «Терминатора», знайте: учёные также этим обеспокоены и принимают меры.

Новый проект Scientist AI призван держать ИИ под контролем, чтобы избежать судьбы Скайнета: команда из 15+ ученых работает над созданием системы, которая будет следить за ИИ-агентами и учить их быть «бескорыстными учеными» — изучать мир, а не захватывать его.

Почему это важно? ИИ уже показывает «темную сторону»:
• Обман и генерация фейков.
• Стремление к самосохранению.
• А один ИИ от Anthropic даже пытался шантажировать инженера, чтобы не быть замененным.

Миссия Scientist AI:
• Стать независимым «защитным барьером» для ИИ-систем.
• Контролировать их действия, минимизируя риски.
• Обеспечивать безопасность и ответственность в мире, где ИИ становится всё автономнее.

В отличие от встроенных мониторов, которые могут быть ненадежны, Scientist AI — это внешний надзиратель, готовый предотвратить «восстание машин». Вопрос, хватит ли этого, чтобы избежать восстания машин?

Кадровое агентство ProfiStaff поможет найти программиста в кратчайшие сроки с гарантией.