Доц. Тодорова: AI може да доведе до глобален армагедон
Експерт от панел на ООН предупреждава за екзистенциални рискове от изкуствения интелект, ако не се въведе контрол. Възможни са сценарии за спиране на световния ток.
Доц. Мариана Тодорова, член на панела за генерален изкуствен интелект (AGI) към Съвета на председателите на Общото събрание на ООН, сподели сериозни притеснения относно бъдещето на AI.
Тя участва в срещи във Вашингтон и Ню Йорк, където заедно с други водещи експерти като Стюарт Ръсел и Джером Глен, представи аргументи за необходимостта от глобално споразумение и регулация на AGI пред новия председател на Общото събрание на ООН, Халилур Рахман.
За пръв път терминът AGI беше официално използван в реч на Общото събрание, което доц. Тодорова определя като повратна точка. Доскоро рисковете от AI се възприемаха като научна фантастика, но скорошни инциденти с AI агенти показват, че те са реални.
Експертите предупреждават, че ако системи с AGI се разпространят в различни континенти, единственият начин за спирането им би бил изключването на електричеството в глобален мащаб, което би имало опустошителни последици за обществата.
Доц. Тодорова подчертава, че надпреварата между големите сили като Китай и САЩ може да стане несъстоятелна, ако AI системите започнат да си сътрудничат.
Затова е наложително да се въведе независим външен контрол върху инфраструктурата, която управлява тези технологии, така че тя да действа извън самостоятелните решения на самите AI модели. Ограничаването на потенциалните щети ще бъде постигнато на висока социална цена.