("How malicious AI swarms can threaten democracy", Science, 22.01.26)
1. Група учени са написали текст-предупреждение за това, как социалните мрежи се превземат от самообучаващи се „дигитални личности“. Според тях, сливането на Големите езикови модели (LLM) с автономни агенти създава злонамерени роеве (swarms) от AI, срещу които човечеството все още не е разработило защита
2. Те не са просто ботове, а самоорганизиращи се мрежи с плашещи възможности:
- Устойчива идентичност и памет. Агентите остават в ролята си с месеци, използвайки местен жаргон и фотореалистични аватари. Поведението им не се различава от това на истинските хора
- Автономна координация. Роят не чака команди - множество акаунти разпределят ролите (има “съмняващи се“, „агресивни защитници“, етц.), създавайки илюзия за “човешко” мнозинство
- LLM груминг. AI залива интернет с генерирано съдържание, така че бъдещите невронни мрежи да могат да се обучават от тази комбинация от фейкове и лъжи. Така фейкът се превръща във „факт“ на ниво машинни алгоритми
3. Демокрацията работи добре само когато хората имат разнообразни и достатъчно независими мнения: това обикновено води до по-разумни решения. Но когато 70% от онлайн дискусиите се генерират от AI рой, настъпва епистемологичен световъртеж (“epistemic vertigo”). Хората губят ориентир в пространството на фактите и се радикализират или оттеглят в „дигитален ъндърграунд“.
4. Тъкмо преглътнах, че AI ще придобие съзнание, и ето ти нова опасност - той ще се опитва да ни убеди, че съзнанието и истината изобщо не съществуват и всичко е изчислителната мощ
5. Текстът изглежда леко конспиративен, но да не забравяме и правилото: “Ако си сигурен, че не те следят, значи си попаднал на професионалисти”
1. Група учени са написали текст-предупреждение за това, как социалните мрежи се превземат от самообучаващи се „дигитални личности“. Според тях, сливането на Големите езикови модели (LLM) с автономни агенти създава злонамерени роеве (swarms) от AI, срещу които човечеството все още не е разработило защита
2. Те не са просто ботове, а самоорганизиращи се мрежи с плашещи възможности:
- Устойчива идентичност и памет. Агентите остават в ролята си с месеци, използвайки местен жаргон и фотореалистични аватари. Поведението им не се различава от това на истинските хора
- Автономна координация. Роят не чака команди - множество акаунти разпределят ролите (има “съмняващи се“, „агресивни защитници“, етц.), създавайки илюзия за “човешко” мнозинство
- LLM груминг. AI залива интернет с генерирано съдържание, така че бъдещите невронни мрежи да могат да се обучават от тази комбинация от фейкове и лъжи. Така фейкът се превръща във „факт“ на ниво машинни алгоритми
3. Демокрацията работи добре само когато хората имат разнообразни и достатъчно независими мнения: това обикновено води до по-разумни решения. Но когато 70% от онлайн дискусиите се генерират от AI рой, настъпва епистемологичен световъртеж (“epistemic vertigo”). Хората губят ориентир в пространството на фактите и се радикализират или оттеглят в „дигитален ъндърграунд“.
4. Тъкмо преглътнах, че AI ще придобие съзнание, и ето ти нова опасност - той ще се опитва да ни убеди, че съзнанието и истината изобщо не съществуват и всичко е изчислителната мощ
5. Текстът изглежда леко конспиративен, но да не забравяме и правилото: “Ако си сигурен, че не те следят, значи си попаднал на професионалисти”
*Майлс Дейвис обучава Лохнеското чудовище на тромпет
