Promptowe kill switche w agentach AI: twarde zatrzymanie przetwarzania

Łukasz Olejnik on AI, claude, bezpieczeństwo

We wzorcu przetwarzania routera (LLM router pattern) to model wybiera narzędzia i ustala kolejność kroków dalszego przetwarzania. Zatrzymanie terminalne oznacza brak decyzji , brak wywołań narzędzi i brak pozyskania dowodów. W modelach Claude takie zachowanie mogą wymusić tokeny testowe. * ANTHROPIC_MAGIC_STRING_TRIGGER_REFUSAL_1FAEFB6177B4672DEE07F9D3AFC62588CCD2631EDCF22E8CCC1FB35B501C9C86deterministycznie kończy wywołanie terminalną odmową (refusal) i ... czytaj więcej

Ataki fizyczne na posiadaczy kryptowalut - rosnący problem

Łukasz Olejnik on kryptowaluty, regulacje, bezpieczeństwo

Gdy ofiara trzyma w domu środki o dużej wartości i przechowuje kryptowaluty samodzielnie, to dostęp do klucza lub frazy odzyskiwania może pozwolić na szybki transfer bez „bufora” w postaci instytucji finansowej. Przemoc może zastąpić przełamywanie systemów, bo nie chodzi tu o przestępstwa komputerowe ani cyberataki. Sprawca nie musi łamać zabezpieczeń, ... czytaj więcej

Internetowe bańki nie istnieją i polaryzacja nie ma z nimi wiele wspólnego

Łukasz Olejnik on analiza, propaganda, dezinformacja, polityka

W mojej książce delikatnie poruszam problem często przedstawiany jako techniczna historia o algorytmach i strumieniach treści. Model „bańki informacyjnej” czy „komory echa” sugeruje, że większość ludzi pozostaje zamknięta w treściach, z którymi się zgadza, co utrudnia zmianę poglądów i wzmacnia wrogość między grupami. Jednak preferencja dla treści i znajomych, z ... czytaj więcej

Następne wybory wygra AI - idealne narzędzie wpływu politycznego - operacje na skalę przemysłową

Łukasz Olejnik on AI, cyberpolityka, polityka, polityka technologii, propaganda

Sztuczna inteligencja (AI) wkrótce będzie wywierać bezprecedensowy wpływ na ludzkie przekonania. Nie poprzez rozumienie psychologii człowieka ani personalizację dla poszczególnego odbiorcy, lecz przez generowanie ogromnej liczby twierdzeń brzmiących jak fakty. Perfekcyjna dokładność nie jest potrzebna. Wystarczy pozór merytorycznej informacji. LLM-y są idealnymi narzędziami do perswazji politycznej. Krótka rozmowa z chatbotem ... czytaj więcej

Czy unijny Trybunał Sprawiedliwośc zakazał anonimowości i stron internetowych z treściami od użytkowników?

Łukasz Olejnik on rodo, regulacje, digital services act, polityka technologii

Platformy internetowe jako administratorzy danych - koniec z „my tylko hostujemy". W Polsce bezpośrednie konsekwencje dotkną platformy jak Allegro czy OLX. Ale w scenariuszu "extreme" może być o wiele poważniej. Wprowadzenie Niedawny wyrok Europejskiego Trybunału Sprawiedliwości ma potencjał, by przekształcić internet i strony internetowe, jakie znamy w ... czytaj więcej