B.L.O.G. - Bissige Liberale ohne Gnade

14 Kommentare zu “Wohin die Reise geht”

1. Klaus
   27.09.2008 | 14:21

   Übrigens: Das was da als Erfolg angekündigt wird, hat laut dem Test noch immer eine 20% Versagensrate. Wobei ich ja glaube, dass das heißt: 20 von 100 “Terroristen” werden nicht vom System erkannt. Viel interessanter wäre doch die Frage: Wieviele Menschen werden von dem System fälschlich als “Terroristen” eingestuft?

   Viel interessanter? Wenn also am 11.9.2001 ein solches System installiert gewesen wäre und es hätte 15 der 19 Terroristen erkannt, dann wäre es interessanter gewesen, wenn 100 Personen als false positives sich unangenehmen Fragen hätten stellen müssen?

2. Zettel
   27.09.2008 | 20:10

   Lieber Björn,

   der erste Kommentator weist zu Recht auf das Problem der false positives hin.

   Wenn ein solches System etwas taugen soll, dann muß es mit hoher Wahrscheinlichkeit die positiven Fälle entdecken (Hits). Dazu muß es sehr empfindlich eingestellt sein. Wenn es das aber ist und wenn es zugleich eine schlechte Trennschärfe (sensitivity) hat, dann liefert es auch viele falsche Alarme.

   Und zwar viel mehr falsche Alarme als Treffer. Das ergibt sich aus den base rates, also den Wahrscheinlichkeiten, daß irgendein Passant ein Terrorist ist usw. Dieser Aspekt wird von der Bayes’schen Statistik beschrieben, und der Kommentator weist auf die Base Rate Fallacy hin: Solche Basisraten werden in der Regel zu wenig berücksichtigt, so daß ein Alarm zu Unrecht als Hinweis auf einen Täter gedeutet werden würde.

   Also - solange solche Geräte nicht eine sehr, sehr hohe Trennschärfe haben, sind sie in den meisten Bereichen nutzlos, weil sie ständig falsche Alarme liefern - oder aber einen Verdächtigen unentdeckt lassen würden.

   Allenfalls dort, wo man die vielen falschen Alarme halt in Kauf nimmt (sagen wir, in einem Hochsicherheitsbereich), könnte so etwas sinnvoll sein.

   Aber dann kommt oft ein psychologisches Moment ins Spiel: Das von den ständigen falschen Alarmen genervte Personal stellt das Gerät gern ab.

   Herzlich, Zettel

3. Björn
   27.09.2008 | 22:32

   Viel interessanter? Wenn also am 11.9.2001 ein solches System installiert gewesen wäre und es hätte 15 der 19 Terroristen erkannt, dann wäre es interessanter gewesen, wenn 100 Personen als false positives sich unangenehmen Fragen hätten stellen müssen?

   Dein Beispiel geht davon aus, dass das Gerät eine Trefferchance von 13% hätte. Sicher: Toll wenn sowas den 11. September verhindert hätte (wobei ich mit dem Argument jede Investition rechtfertigen kann, das Gegenteil kann mir ja keiner beweisen).

   Am Memorial Day Wochenende reisen laut ATA 2.000.000 Menschen pro Tag in den USA mit dem Flugzeug (Quelle). Ich finde gerade keine anderen Zahlen, sagen wir mal, dass es an einem normalen Wochentag 1.000.000 sind. Bei einem Gerät mit einer Trefferquote von 13% würde dass bedeuten, dass jeden Tag tausende Touristen rausgefischt würden, ohne dass es einen klaren Grund dafür geben würde. Sprich: Arbeitsaufwand wahnsinnig rauf (sofern man nicht viel mehr Sicherheitskräfte einstellt, ich vermute aber mal dass das Gerät eher dem Abbau menschlicher Sicherheitskräfte dienen wird). Und höherer Arbeitsaufwand bei einer 87% Chance, dass der Treffer ein Irrtum ist würde, siehe Zettel, wahrscheinlich eher dazu führen, dass die Sicherheitskräfte ineffizienter arbeiten, als sie das ohne dieses Gerät tun. Solange solche Geräte nicht bewiesenermaßen hocheffizient funktionieren, halte ich sie für gefährliches Sicherheitstheater und Geldgruben, die Ressourcen fressen die man sinniger anlegen könnte. Und in Kombination mit dem Interesse an pseudo-wissenschaftlich anmutenden Gehirnscans um “Lügen” zu entlarven, ist das ein weiterer Schritt hin zu einer “guilty until proven innocent”-Einstellung westlicher Staaten, die mir mehr Angst macht als die Islamisten.

4. Lina
   28.09.2008 | 12:13

   …ein weiterer Schritt hin zu einer “guilty until proven innocent”-Einstellung westlicher Staaten, die mir mehr Angst macht als die Islamisten.

   So ist es - auch bei mir. Was für für ein alles Dagewesene übersteigender Irrsinn, der (Staats-) Paranoia in fortgeschrittenem Stadium vermuten lässt. Wo kommen wir hin, wenn wir das Feld von Instinkt und Urteilskraft so weit überschreiten, sie mehr und mehr an fragwürdige Maschinen delegieren zu wollen? Finde schon die Lügendetektoren von Übel - und dann erst solche “Trefferquoten” …. ein Witz ist das.

   Mir erscheint das Ganze sowieso mehr ein Fall von autoritär abzuerziehender Risikobereitschaft zu sein, wie sie etwa schon auf dem Gebiet des Rundum-Sozialen wie eine Art von Geiselhaft greift. Die machen uns noch alle zu uniformen Angsthasen, wenn das so weitergeht. Sich im Leben SICHER zu fühlen, wollen sie zum 1A-Grundbedürfnis erklären … koste es, was es wolle.

5. micha42
   28.09.2008 | 12:18

   @Klaus:

   Nehmen wir mal an, das System wäre richtig, richtig gut: seine Anfälligkeit für False Negatives sei 1 Prozent, seine Anfälligkeit für False Positives sogar nur 1 Promille.

   Ich nehme mal Björns Zahl als Ausgangspunkt, gehe auf einen Betrachtungsspielraum von 1 Jahr, und runde kräftigst ab, sagen wir auf 10.000.000 Passagiere pro Jahr, die in den USA starten und/oder landen.

   Gleichzeitig gehe ich von richtig vielen darunter befindlichen, tatsächlichen Terroristen aus, sagen wir von 100 pro Jahr.
   (”viel” in Bezug zur Zahl der bisher bekanntermaßen aufgetretenen Terroristen in Passagierflugzeugen in den USA, natürlich nur nach meinem Wisse)

   Von den 100 werden im Modell 99 erkannt, einer nicht (false negative).

   10.000.000 Fluggäste minus die obigen 100 macht 9.999.900 übrige Leute. Bei einer False-Negative-Quote von 1 Promille werden davon 9.999,9, gerundet 10.000, davon vom System fälschlicherweise zu Terroristen erklärt.

   Über den einen entwischten Terroristen brauche ich sicher nix zu sagen, weil 99 Erkannte immer noch deutlich besser sind als 0 Erkannte.

   Aber dummerweise ist da noch das Problem, aus den 10.099 “erkannten” Terroristen die tatsächlichen 99 herausfiltern.

   Und wenn du dir die Folgen klar gemacht hast (z.B. für die Zahl der nötigen Verhörspezialisten, oder auch für die 10.000 Passagiere), dann nimm bitte mal realistischere Zahlen als Berechnungsgrundlage: bei den Fluggästen (das werden sicher deutlich mehr sein), bei der - empirisch begründeten - Abschätzung der Zahl der zu erwartenden Terroristen (die habe ich vermutlich zuhoch angesetzt, es sei denn, die USA werden zum Irak), und natürlich bei der Qualität des Systems (die wird wohl in der Realität schlechter sein).

   Übrigens: genau deshalb sind auch in der Medizin flächendeckende, nicht durch einen vorherigen konkreten Verdacht begründete, (Zwangs-)Tests auf irgendwelche Krankheiten sehr, sehr sinnlos.

   Und gass das Motiv für das Ganze ein sehr nachvollziehbares ist, ändert daran rein gar nichts.

6. Fuchur
   28.09.2008 | 13:06

   Wir reden doch hier nicht über ein orwellsches Zukunftsszenario, sondern über etwas, was ständig passiert: Personen werden aufgrund irgendwelcher Kriterien von Sicherheitsleuten aller Art (Kaufhausdetektive, Wachleute in der Bank, Streifenpolizisten, Bodyguards, Zollbeamte…) als “verdächtig” eingestuft. Als Konsequenz wird der Betroffene z.B. einfach bloß beobachtet, oder angesprochen und evtl. gebeten sich auszuweisen, oder im Extremfall festgenommen.
   Dabei sind die Kriterien, nach denen die Sicherheitsleute vorgehen, äußerst schwammig, und ich bezweifle stark, dass ihre Treffer-/Versagensquote besser ist, als die dieser Maschine. Insofern hört sich das für mich wie ein sehr sinnvolles Hilfsmittel an.

7. micha42
   28.09.2008 | 14:03

   @Fuchur:
   Wenn es beim - Zitat - “It is only used to make decisions about whether to question someone, and then discarded.” bleibt: dann ja, vielleicht.

   Aber selbst dann kommt es sehr drauf an, wie zuverlässig das Ding ist: Der Sinn ist (nhme ich an) wohl, dass elektronische Augen mehr sehen als menschliche, und vor allem ermüdungsfrei. Wenn es statt 10 Leuten/Minute wie ein Mensch Tausende abchecken kann, müsste es aber schon extrem zuverlässig sein, damit die absolute(!) Zahl der Fehlalarme nicht in die Höhe schießt. Selbst wenn man die Betreffenden dann nur mal kurz ansprechen will, gäbe es eine Menge zu tun.

8. Rayson
   28.09.2008 | 14:50

   In der DDR gab es keine Terroristen. Jedenfalls keine, die in der DDR aktiv gewesen wären oder dort hätten aktiv werden wollen.

   Selbstverständlich kann man dem herkömmlichen Terrorismus ein Ende bereiten, wenn der Staat selbst zum Terroristen wird. Dann ist das Sicherheitsbedürfnis maximal erfüllt. Oder vielleicht doch nicht? Wer war unter Stalin sicher?

   Richtig: Über die Trennlinie muss jeden Tag neu gestritten werden. Wir tun dies hiermit. Die Richtung, auf die Björn aufmerksam macht, bedarf aus unserer Sicht einer äußerst kritischen Aufmerksamkeit.

9. Fuchur
   28.09.2008 | 16:59

   @micha42
   Man könnte ja z.B. unter den automatisch ermittelten “Auffälligen” stichprobenartige Kontrollen durchführen. Dann wäre die “Trefferwahrscheinlichkeit” immer noch deutlich höher, als wenn man einfach zufällige Kontrollen durchführen würde.

   Oder man könnte das System unterstützend einsetzen: Wenn ein Wachmann eine “auffällige” Person entdeckt, kann er nachfragen, ob die Maschine das ebenso sieht. Oder er kann sie anweisen, die Person im Auge zu behalten, und ihn zu benachrichtigen, wenn die Maschine Auffälligkeiten entdeckt.

   Ich sehe nach wie vor eher die Chancen als die Risiken dieser Technologie.

10. Björn
    28.09.2008 | 18:48

    Oder man könnte das System unterstützend einsetzen: Wenn ein Wachmann eine “auffällige” Person entdeckt, kann er nachfragen, ob die Maschine das ebenso sieht. Oder er kann sie anweisen, die Person im Auge zu behalten, und ihn zu benachrichtigen, wenn die Maschine Auffälligkeiten entdeckt.

    Wenn ein Wachmann eine auffällige Person entdeckt, warum sollte er dann nicht seiner Berufsintution folgen und die Person direkt an die Seite winken? Wo wäre da der Vorteil erst das Urteil der Maschine abzuwarten? Wenn die nun sagt: “Keine Auffälligkeiten”? Wird die auffällige Person dann einfach ignoriert?

    Mal abgesehen davon, dass ich noch nicht überzeugt bin von den Kriterien die die Maschine verwendet. “Hostile thoughts” wegen erhöhtem Puls, erhöhter Schweißdrüsenfunktion, bestimmten Retinabewegungen… das kann ja viele Gründe haben. Ich gehe mal davon aus, dass sich jemand “verdächtig” verhielte, würde eram Flughafen seine heimliche Geliebte treffen. Generell dürfte das “verdächtige Verhalten” in Kontrollsituationen am Flughafen stark zunehmen.

    Ich bin higegen nicht sicher, ob sich die 9/11-Attentäter wirklich “verdächtig” verhalten haben. Ist es nicht sogar wahrscheinlich, dass jemand der sich seit Monaten auf seinen Tod vorbereitet hat, gewillt ist sich selbst bei der Zerstörung des Flugzeugs umzubringen, um einiges “ruhiger” ist, als ein flugängstlicher Passagier?

11. Eloman
    28.09.2008 | 19:41

    Ich halte diese Maschinengläubigkeit für ziemlich albern und reine Geldvernichtung. Hätten die US-Sicherheitsbehörden vor 9/11 ihre Arbeit vernünftig gemacht und mehr auf HumInt als auf ihre Gimmicks gesetzt wäre es nie zu den bekannten Ereignissen gekommen.

12. Fuchur
    28.09.2008 | 20:32

    Wenn ein Wachmann eine auffällige Person entdeckt, warum sollte er dann nicht seiner Berufsintution folgen und die Person direkt an die Seite winken?

    Naja, wie du weiter oben schon gesagt hast: Vielleicht hat er einfach nicht die Zeit, bei jeder “verdächtigen” Person die Koffer zu durchsuchen.
    Vielleicht arbeitet er in einer Bank, und will es möglichst vermeiden, einen Kunden rauszuziehen, weil dem das unangenehm sein könnte.

    Überhaupt ist der Flughafen vielleicht gar kein so gutes Beispiel, denn dort sieht man ja das andere Extrem, das durch diese “Verdachtsmaschine” eigentlich vermieden werden soll: Am Flughafen muss sich JEDER Passagier ohne Ausnahme einer aufwändigen Kontrolle unterziehen.
    In den meisten Fällen kann man sich diesen ungeheuren Aufwand eben nicht leisten, und muss sich notwendiger Weise auf Stichproben beschränken.

13. Björn
    28.09.2008 | 20:46

    Naja, wie du weiter oben schon gesagt hast: Vielleicht hat er einfach nicht die Zeit, bei jeder “verdächtigen” Person die Koffer zu durchsuchen.

    Wir haben unterschiedliche Einschätzungen über den Wert menschlicher Sicherheitskräfte. Ich gehe davon aus, dass jemand der als Sicherheitsmann dient und eine Person als wirklich “verdächtig” einstuft, sie auf jeden Fall zur Seite winken wird, egal was die Maschine sagt. So wie dich ein Polizist gelegentlich zum Bluttest auffordern wird, auch wenn das Pusteröhrchen nicht anschlägt, wenn er dein Verhalten wirklich verdächtig findet.

    Vielleicht arbeitet er in einer Bank, und will es möglichst vermeiden, einen Kunden rauszuziehen, weil dem das unangenehm sein könnte.

    Eine Bank?! Ach komm. Das Sicherheitsrisiko in Banken ist so groß, dass wir diese Maschinen brauchen um Bankräuber rechtzeitig zu identifizieren? Weil die Sicherheitskräfte sich vielleicht unsicher sind und einem Kunden keine Szene machen wollen. Ich wage mal eiskalt zu behaupten, dass der Nutzen solcher Geräte in anbetracht der Zahl täglich stattfindender (oder ausbleibender) Bankraube tatsächlich gegen Null tendieren würde. Sicherheitstheater, schlichtweg.

    Überhaupt ist der Flughafen vielleicht gar kein so gutes Beispiel

    Ne, der Flughafen ist das perfekte Beispiel, weil das DHS dieses Gerät primär für Flughäfen entwickeln lässt (auch wenn es dann bei Konzerten, Sportereignissen, etc. auch verwendet werden soll). Hier geht es in erster Linie um Airline Security. Gerade weil das seit 9/11 ein Wachstumsmarkt ist.

    In den meisten Fällen kann man sich diesen ungeheuren Aufwand eben nicht leisten, und muss sich notwendiger Weise auf Stichproben beschränken.

    Da muss man dann halt die Kosten-Nutzen-Rechnung machen: Wie groß ist die Wahrscheinlichkeit dass in meiner Bank/meinem Supermarkt/meiner Schule/meiner Kirche sowas passiert und ist das Geld für solche Systeme möglicherweise anderweitig besser angelegt? (Indirekte Prävention.)

14. Fuchur
    28.09.2008 | 22:39

    Nur damit das nicht untergeht: An der Verwendung des Systems zur Vorselektion bei Stichprobenkontrollen hat offenbar nach wie vor niemand etwas auszusetzen. Und das ist m.E. der Hauptnutzen des Systems.

    Was eventuelle andere Möglichkeiten angeht: Warum sollte man es nicht in einer Bank nutzen? Eine Bank kann sich auch so teure Dinge wie eine 24h Videoüberwachung leisten.

    Und egal wie hoch die Profiling-Fähigkeiten eines Sicherheitsmanns sind: Wenn er zusätzlich die Maschine als unabhängige 2. Meinung hat, hilft ihm das auf jeden Fall. Genauso, wie das Pusteröhrchen den Polizisten in seiner Entscheidungsbildung unterstützt.