Kolumne · Product Design
KI-Funktionen ehrlich gestalten
Spannend und nervig zugleich Exciting and annoying at the same time
Im Branchenreport1 UX/Usability 2025 der German UPA nennen die Befragten Begriffe rund um KI am häufigsten als spannende Trends.
(In the German UPA’s 2025 UX/Usability industry report, respondents most often name terms related to AI as exciting trends.)
Dieselben Begriffe stehen aber auch ganz oben auf der Liste der Trends, die als überschätzt2 oder nervig3 gelten.
(But the same terms are also at the very top of the list of trends that are seen as overrated or annoying.)
An der Onlineumfrage haben von April bis Juni 2025 insgesamt 339 Fachleute teilgenommen.
(A total of 339 professionals took part in the online survey from April to June 2025.)
Ich kenne diesen Widerspruch4 aus meiner eigenen Arbeit im Design sehr gut.
(I know this contradiction very well from my own work in design.)
Eine Umfrage von Figma aus dem Jahr 2025 unter 2.500 eigenen Nutzerinnen und Nutzern zeigt ein ähnliches Bild.
(A 2025 survey by Figma among 2,500 of its own users shows a similar picture.)
78 Prozent sagen, dass KI ihre Arbeit deutlich effizienter macht.
(78 percent say that AI makes their work significantly more efficient.)
Aber nur 32 Prozent geben an, dass sie sich auf die Ergebnisse der KI verlassen können.
(But only 32 percent state that they can rely on the AI’s output.)
Die Zahlen stammen von einem Softwarehersteller und betreffen Menschen, die Produkte bauen, nicht deren Endkunden.
(The figures come from a software vendor and concern people who build products, not their end customers.)
sich verlassen auf – to rely on (verb; reflexive: „sich auf … verlassen“)
Absatz 1 verlangt, dass solche Systeme „so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren“.
Was der AI Act verlangt What the AI Act requires
Seit dem 2. August 2026 gilt Artikel 50 der europäischen KI-Verordnung1, auf Englisch AI Act.
(Since August 2, 2026, Article 50 of the European AI regulation, the AI Act, has applied.)
Er betrifft unter anderem KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind.
(Among other things, it concerns AI systems that are intended for direct interaction with people.)
Absatz2 1 verlangt, dass solche Systeme „so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren“.
(Paragraph 1 requires that such systems “are designed and developed in such a way that the natural persons concerned are informed that they are interacting with an AI system.”)
Eine Ausnahme gilt, wenn das „aufgrund der Umstände und des Kontexts der Nutzung offensichtlich4“ ist.
(An exception applies if this is “obvious from the circumstances and the context of use.”)
Nach Absatz2 5 wird die Information „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung3 in klarer und eindeutiger Weise bereitgestellt“.
(Under paragraph 5, the information is provided “in a clear and distinguishable manner at the latest at the time of the first interaction or exposure.”)
Einen bestimmten Text oder ein Symbol schreibt das Gesetz nicht vor, die Formulierung wählt das Team selbst.
(The law does not prescribe a specific text or icon; the team chooses the wording itself.)
Ein Beispiel aus der Küche An example from the kitchen
Ein ausgedachter Fall: Eine Rezept-App bekommt einen freundlichen Assistenten, der sich mit „ich“ vorstellt.
(A made-up case: a recipe app gets a friendly assistant that introduces itself with “I.”)
Eine Nutzerin fragt, ob der Kuchen Nüsse enthält, und der Assistent1 antwortet: „Nein, der Kuchen ist nussfrei.“
(A user asks whether the cake contains nuts, and the assistant answers: “No, the cake is nut-free.”)
In der Zutatenliste des Rezepts stehen aber ganz klar gehackte Haselnüsse.
(But the recipe’s list of ingredients clearly includes chopped hazelnuts.)
Am meisten stört mich dabei der Ton, denn die Antwort klingt sicher, obwohl sie falsch ist.
(What bothers me most is the tone, because the answer sounds certain although it is wrong.)
Google PAIR warnt: „When users can't accurately map the system's abilities, they may over-trust the system at the wrong times.“
(Google PAIR warns: “When users can’t accurately map the system’s abilities, they may over-trust the system at the wrong times.”)
Auf Deutsch: Wenn Menschen die Fähigkeiten eines Systems nicht richtig einschätzen5, vertrauen6 sie ihm im falschen Moment zu sehr.
(In German: if people do not judge a system’s abilities correctly, they trust it too much at the wrong moment.)
(A good answer would have been verifiable, for example with a reference to the list of ingredients.)
Vier Aufgaben, die nie fertig sind Four tasks that are never finished
Für mich hat eine ehrliche KI-Funktion vier Aufgaben, die immer wieder von vorn beginnen.
(For me, an honest AI feature has four tasks that start over again and again.)
Ehrlich mit KI: der Kreislauf
Honest with AI: the cycle
Ankündigen
announce
Grenzen zeigen
show the limits
Übergeben
hand over
Zuhören
listen
Vertrauen, das stimmt
trust that fits
Erstens kündigt sie sich an, etwa mit dem Hinweis „KI-Assistent“ über der ersten Antwort.
(First, it announces itself, for instance with the label “AI assistant” above the first answer.)
Google PAIR rät: „Set realistic expectations early.“ Auf Deutsch: Früh für realistische Erwartungen sorgen.
(Google PAIR advises: “Set realistic expectations early.” In German: make sure expectations are realistic from the start.)
Zweitens zeigt sie ihre Grenzen, und Microsoft formuliert das in den HAX-Richtlinien so: „Make clear how well the system can do what it can do.“
(Second, it shows its limits, and Microsoft puts it like this in the HAX guidelines: “Make clear how well the system can do what it can do.”)
Auf Deutsch: Deutlich machen, wie gut das System kann, was es kann.
(In German: make clear how well the system can do what it can do.)
Wenn die Funktion zeigt, woher eine Antwort kommt, bleibt das Ergebnis nachvollziehbar4.
(If the feature shows where an answer comes from, the result stays traceable.)
Ein Fehler ist dann erklärbar5 und zerstört nicht sofort das ganze Vertrauen.
(A mistake can then be explained and does not immediately destroy all the trust.)
Drittens übergibt sie an einen Menschen oder an einen Weg ohne KI, wenn sie unsicher ist.
(Third, it hands over to a person or to a path without AI when it is uncertain.)
Bei PAIR heißt das: „make sure there's a default user experience that doesn't rely on AI.“
(PAIR puts it this way: “make sure there’s a default user experience that doesn’t rely on AI.”)
Auf Deutsch: Es muss immer einen Standardweg geben, der nicht von der KI abhängt.
(In German: there must always be a default path that does not depend on the AI.)
Viertens hört sie zu: Ein Button „Das stimmt nicht“ ist schnell gebaut.
(Fourth, it listens: a button saying “That’s not right” is quick to build.)
Das Team muss die Rückmeldungen aber auch lesen und die Funktion danach verbessern.
(But the team also has to read the feedback and then improve the feature.)
PAIR empfiehlt: „Ask the user for feedback if they repeatedly reject AI outputs.“
(PAIR recommends: “Ask the user for feedback if they repeatedly reject AI outputs.”)
Auf Deutsch: Um Feedback bitten, wenn jemand die Ergebnisse der KI mehrmals ablehnt.
(In German: ask for feedback when someone rejects the AI’s results several times.)
Was ich mir wünsche What I wish for
Im KI-Bericht1 2026 von Figma sagen 90 Prozent der Befragten, dass Design mindestens so wichtig ist wie vor der KI.
(In Figma’s 2026 AI report, 90 percent of respondents say that design is at least as important as before AI.)
Auch das sind Daten eines Herstellers, aber die Richtung überzeugt mich.
(These are also a vendor’s data, but the direction convinces me.)
Ich wünsche mir KI-Funktionen, die offen sagen, was sie sind und wann sie nicht weiterwissen3.
(I wish for AI features that say openly what they are and when they don’t know what to do next.)
Ein freundlicher Ton allein reicht dafür nicht, Vertrauen entsteht erst durch Ehrlichkeit4 über die eigenen Grenzen.
(A friendly tone alone is not enough for this; trust only grows through honesty about one’s own limits.)
Source: German UPA, Branchenreport UX/Usability 2025, online survey of 339 professionals, April to June 2025 (germanupa.de); Figma, 2025 AI report, survey of 2,500 Figma users, and 2026 AI report of 24 June 2026, vendor data, global, not limited to the DACH region (figma.com); AI Act, Article 50 (1) and (5), German text in the AI Act Explorer and English text in the European Commission’s AI Act Service Desk (artificialintelligenceact.eu, ai-act-service-desk.ec.europa.eu); Google PAIR, People + AI Guidebook, chapters “Mental Models” and “Errors + Graceful Failure” (pair.withgoogle.com); Microsoft HAX Toolkit, Guidelines for Human-AI Interaction (microsoft.com). PAIR and HAX are company design guidelines, not law. The recipe app is an invented example. General information as of November 2026, not legal advice.
Randnotiz: Grammatik Grammar rule
Adjektive auf -bar: erklärbar, überprüfbar, nachvollziehbar
(Adjectives ending in -bar: explainable, verifiable, traceable)
Die Endung „-bar“ am Stamm eines Verbs macht daraus ein Adjektiv: erklären → erklärbar, überprüfen → überprüfbar.
(The ending “-bar” added to a verb stem turns it into an adjective: erklären → erklärbar, überprüfen → überprüfbar.)
Die Endung bedeutet fast immer „man kann es tun“: Was nachvollziehbar ist, kann man nachvollziehen.
(The ending almost always means “it can be done”: what is “nachvollziehbar” can be followed and understood.)
Beispiele
(Examples:)
„Eine gute Antwort wäre überprüfbar gewesen, zum Beispiel mit einem Verweis auf die Zutatenliste.“
(“A good answer would have been verifiable, for example with a reference to the list of ingredients.”)
„Wenn die Funktion zeigt, woher eine Antwort kommt, bleibt das Ergebnis nachvollziehbar.“
(“If the feature shows where an answer comes from, the result stays traceable.”)
„Ein Fehler ist dann erklärbar und zerstört nicht sofort das ganze Vertrauen.“
(“A mistake can then be explained and does not immediately destroy all the trust.”)
Merke
(Note:)
Adjektive auf „-bar“ haben eine passive Bedeutung: „überprüfbar“ heißt „kann überprüft werden“.
(Adjectives ending in “-bar” have a passive meaning: “überprüfbar” means “can be checked”.)
Weiterlesen im Buch
Design Systems and Pattern Libraries
The same page as this article, a whole book long: German texts from your profession, the English after every sentence, the words and the grammar after every text.
