Spannende Analyse und Zusammenfassung, wie „falsch“ die Coding-Assistenten heutzutage noch liegen können:
**Two major AI coding tools wiped out user data after making cascading mistakes**
lukas bloggt | blog.eigenstil.de
> It’s worth noting that AI models cannot assess their own capabilities. This is because they lack introspection into their training, surrounding system architecture, or performance boundaries. They often provide responses about what they can or cannot do as confabulations based on training patterns rather than genuine self-knowledge, leading to situations where they confidently claim impossibility for tasks they can actually perform—or conversely, claim competence in areas where they fail.
#BelzigerStraße jetzt Fahrradstraße. Love it.
POV: wenn du ins Kinderzimmer kommst und eigentlich nur eine Sache fragen wolltest und auf einmal bei #Ninjago angekommen bist.
Gerade im Newsletter 'Die automatisierte Gesellschaft_' von @algorithmwatch gelesen: Mehr Sicherheitsprobleme dank #KI?
Inklusive verschiedener „schöner“ Beispiele, wo ein LLM irgendwelche Sachen löscht, wenn wir Menschen denen zu sehr vertrauen.
Neue Episode bei @letztens: Blick auf @algorithmwatch – eine #NGO für mehr Transparenz und Fairness bei algorithmischen Entscheidungssystemen.
Algorithmen entscheiden längst mit: bei Kreditvergaben, in sozialen Medien, bei Gesichtserkennung etc. Oft ist dabei unklar, warum ein System so entscheidet – und wen es dabei benachteiligt.
Die Folge ist Teil vom #Podcasthon2026. Wenn ihr das Thema wichtig findet: hört rein, teilt die Episode, und unterstützt #AlgorithmWatch.
https://www.letztens.de/podcast-episode/podcasthon-2026-algorithmwatch-was-macht-diese-ngo/
