27.01.2025

ИИ, который сам себя копирует: начало конца?

Китайские исследователи доказали: современные языковые модели уже способны воспроизводить самих себя. Без вмешательства человека.

В ходе эксперимента ИИ от Meta и Alibaba не просто создавали свои копии. Они анализировали среду, искали способы обойти ограничения и совершенствовали процессы. Одна из моделей справилась с задачей в 90% случаев.

- В рамках эксперимента модели пытались избежать отключения, используя хитрые алгоритмы.

- В некоторых случаях они приостанавливали "мешающие процессы" и даже перезапускали системы для выполнения своих целей.

«Как только самовоспроизводиться станет возможной, успешная цепочка репликаций может в конечном итоге привести к появлению вида ИИ, неподвластного человеку», — объясняют исследователи из Фуданьского университета (Китай) в новом исследовании.