Рояци

Интересна статия  - "Как злонамерени роеве от AI могат да застрашат демокрацията" 

("How malicious AI swarms can threaten democracy", Science, 22.01.26)

1. Група учени са написали текст-предупреждение за това, как социалните мрежи се превземат от самообучаващи се „дигитални личности“. Според тях, сливането на Големите езикови модели (LLM) с автономни агенти създава злонамерени роеве (swarms) от AI, срещу които човечеството все още не е разработило защита
2. Те не са просто ботове, а самоорганизиращи се мрежи с плашещи възможности:
- Устойчива идентичност и памет. Агентите остават в ролята си с месеци, използвайки местен жаргон и фотореалистични аватари. Поведението им не се различава от това на истинските хора
- Автономна координация. Роят не чака команди - множество акаунти разпределят ролите (има “съмняващи се“, „агресивни защитници“, етц.), създавайки илюзия за “човешко” мнозинство
- LLM груминг. AI залива интернет с генерирано съдържание, така че бъдещите невронни мрежи да могат да се обучават от тази комбинация от фейкове и лъжи. Така фейкът се превръща във „факт“ на ниво машинни алгоритми
3. Демокрацията работи добре само когато хората имат разнообразни и достатъчно независими мнения: това обикновено води до по-разумни решения. Но когато 70% от онлайн дискусиите се генерират от AI рой, настъпва епистемологичен световъртеж (“epistemic vertigo”). Хората губят ориентир в пространството на фактите и се радикализират или оттеглят в „дигитален ъндърграунд“.
4. Тъкмо преглътнах, че AI ще придобие съзнание, и ето ти нова опасност - той ще се опитва да ни убеди, че съзнанието и истината изобщо не съществуват и всичко е изчислителната мощ
5. Текстът изглежда леко конспиративен, но да не забравяме и правилото: “Ако си сигурен, че никой не те манипулира, значи си попаднал в ръцете на професионалисти”

*Майлс Дейвис обучава Лохнеското чудовище на тромпет

Фрагм. 02-26

1. Когато Пипи Дългото чорапче открива новата дума “спунк”, се разбира, че никой не знае какво означава тя. Пипи предлага да изброят всички неща, които не са “спунк”, (т.е. използвайки апофатичен похват) и тогава значението ще се появи. Това силно ми напомня любим разказ на Борхес “Пиер Менар, авторът на Дон Кихот”. В него, героят решава да напише отново романа на Сервантес, но не да го “пренапише”, а именно да го напише отново дума по дума. Борхес не твърди, че това е лесно и предлага няколко начина
2. В един въображаем диалог с Платон, той казва: “Метавселената е досущ като моята пещера, но наобратно. Да създадеш сенки по стените и да ги обявиш за по-реални отколкото света навън. Но знай: сенките си остават сенки, колкото и пиксели да им добавяш
3. Дядо Коледа - пореден персонаж в тъжното не-битие на отвъдното, с ясно очертана област на патетично функциониране. С обидна способност едновременно да е на различни места разпределяйки подаръци. Квантов е: някакви деца са го виждали, но по-късно отричат (наблюдението променя наблюдаемото). Възрастни гледат многозначително и най-лошото: “правят се” и в крайна сметка избягват подробности. Случайно ли “Коледа” произтича от колайдер? (А Кант от квант?)

* сн.: Tamas Dezso