Axon stopt zijn plan om met Taser uitgeruste drones voor scholen te bouwen

Tijdelijke aanduiding terwijl artikelacties worden geladen

De vliegende Taser-drones zouden vooraf in schoolplafonds zijn geïnstalleerd, zodat een officier er binnen enkele seconden na een gerapporteerde schietpartij een kan lanceren, deze door speciale ventilatieopeningen in afgesloten klaslokalen kan sturen, de schutter kan bedwelmen met schokpijltjes en commando’s schreeuwen als: “Blijf liggen of jij zal weer raak zijn.”

Dat was tenminste het voorstel dat politiecontractant Axon vorige week verdedigde na het bloedbad op de school in Uvalde. Maar het bedrijf heeft het project sindsdien stopgezet na een massaal ontslag van zijn eigen adviseurs, die het afschilderden als een waanzinnige dystopische fantasie die scholen zou kunnen militariseren en kinderen pijn zou kunnen doen.

De schokdrones, zo vreesden ze, zouden onschuldige studenten verdoven of misbruikt worden door hackers, vandalen of de politie. Zelfs als ze op de juiste manier worden ingezet, zijn ze misschien niet genoeg om een ​​schutter uit te schakelen. En het probleem in Uvalde, zo merkten sommigen op, was niet een gebrek aan vuurkracht: negentien agenten hadden 47 minuten voor de deur van het klaslokaal gewacht, ten onrechte in de veronderstelling dat de kinderen binnen dood waren.

“Het is zo’n natuurlijk slecht idee om deze in de context van scholen te gebruiken. Ik bedoel, het is absurd’, zegt Ryan Calo, een van de negen leden van de ethische adviesraad voor kunstmatige intelligentie van Axon, die ontslag nam uit protest tegen het streven van het bedrijf naar het idee. “Je kunt deze gruwelijke nationale tragedies niet aanpakken … door een taser op een drone te gooien.”

Critici zeiden dat het idee een schijnwerper wierp op het veiligheidstheater dat routinematig de reactie van de natie op massale schietpartijen kleurt, en belooft een ongegrond gevoel van veiligheid, in plaats van daadwerkelijke veiligheid, voor een tragedie die veel vaker in de Verenigde Staten plaatsvindt dan waar ook ter wereld .

In plaats van zich te concentreren op wapens, stellen ze, hebben bedrijven wetgevers ertoe aangezet om zich overal elders te concentreren, door kogelvrije rugzakken, schoolbewakingssoftware, gezichtsherkenningsscanners en andere systemen te verkopen die volgens hen reactief, problematisch en ineffectief zijn om toekomstige bloedbaden te stoppen.

Kleine schoolpolitie in Uvalde nam de leiding, maar ging toen niet naar binnen

Axon, dat een verscheidenheid aan tasers produceert onder de algemene rubriek ‘energiewapens’, weigerde leidinggevenden beschikbaar te stellen voor een interview. Rick Smith, de oprichter en chef, zei zondag in een verklaring dat de reactie van het project “ons een diepere waardering had gegeven voor de complexe en belangrijke overwegingen” met betrekking tot schokdrones op scholen en voegde eraan toe: “Ik erken dat onze passie voor het vinden van nieuwe oplossingen om massale schietpartijen te stoppen hebben ons ertoe gebracht snel te handelen om onze ideeën te delen.”

Hoewel hij eerder had gesuggereerd dat het systeem over twee jaar operationeel zou kunnen zijn, zei hij in de verklaring dat het idee nog “ver weg” is en dat het bedrijf nog moet onderzoeken of dergelijke drones “zelfs levensvatbaar” zijn.

Smith voegde eraan toe dat het “ongelukkig” was dat bestuursleden ontslag hadden genomen voordat het bedrijf “de kans had gehad om hun technische vragen te beantwoorden” en dat het zou blijven “zoeken naar verschillende perspectieven” om hen te adviseren over andere technologische ideeën.

Maar in een verklaring maandag zeiden de afgetreden bestuursleden dat de drone “geen realistische kans had om het massale schietprobleem op te lossen waarvoor Axon het nu voorschrijft, en de samenleving alleen afleidt van echte oplossingen.”

“Voor de aankondiging van Axon hebben we het bedrijf gesmeekt om zich terug te trekken”, aldus de leden. “Maar het bedrijf stormde vooruit op een manier die velen van ons trof als handelend op de tragedie van de schietpartijen in Uvalde en Buffalo. … [It] is meer dan iemand van ons kan verdragen.”

Republikeinen, terughoudend om wapenregels goed te keuren, pushen leraren om te bewapenen

Axon is een van de grootste politiebedrijven in de Verenigde Staten geworden, dankzij de verkoop van op het lichaam gedragen camera’s en taserwapens, die elektroshockweerhaken afvuren die een persoon kunnen verdoven tot onderwerping.

Axon adverteert Tasers als “minder dodelijk”, hoewel een onderzoek van USA Today vorig jaar zei dat meer dan 500 mensen zijn overleden kort nadat ze waren geschokt. Politieagenten die naar de pistoolvormige wapens grijpen, hebben ook per ongeluk hun pistolen getrokken, ook bij de dodelijke schietpartij vorig jaar op Daunte Wright.

Het bedrijf riep zijn AI-ethiekraad in 2018 bijeen omdat het van mening was en uiteindelijk weigerde gezichtsherkenning op zijn lichaamscamera’s in te schakelen, waarvan critici vreesden dat dit zou kunnen leiden tot gevaarlijke verkeerde identificaties of de geautomatiseerde bewaking van protesten of andere openbare evenementen. “We willen geen Orwelliaanse staat creëren om wat geld te verdienen”, zei Smith toen in een interview met The Washington Post.

Het advies van het bestuur is niet bindend en het staat het bedrijf vrij om het te negeren. Maar de onafhankelijke mix van betaalde technische en juridische experts dacht dat ze in de loop der jaren een aantal productieve discussies hadden gevoerd met Axon terwijl het bedrijf kentekenscanners en andere bewakingstools nastreefde, zei Calo, een professor aan de Universiteit van Washington die onderzoek doet naar technologie en de wet.

Ongeveer een jaar geleden had Axon de raad van bestuur gevraagd of schokdrones ethisch konden worden ingezet in een scenario waarin officieren nood hadden aan capaciteiten voor aanvallen op afstand en moesten vrezen voor hun leven. Na beraadslaging zei de raad van bestuur in een verklaring dat het bedrijf een reeks voorzorgsmaatregelen zou moeten nemen om het idee zelfs maar ‘op afstand plausibel’ te maken.

Drones, robots, kentekenplaatlezers: de politie worstelt met zorgen van de gemeenschap als ze zich tot technologie wenden voor hun werk

De raad van bestuur stemde vorige maand dat het bedrijf niet verder moet gaan met het idee, en zei dat de bewapende drones zouden kunnen verhogen hoe vaak de politie haar toevlucht neemt tot geweld “in overbewaakte gemeenschappen en gekleurde gemeenschappen”. Leden waren bezig met het opstellen van een volledig rapport, dat dit najaar zou verschijnen, over de vraag of het project überhaupt aan de politie zou moeten worden verkocht.

Leden waren toen verrast toen Smith op donderdag aangekondigd dat het bedrijf “officieel begon met de ontwikkeling” van een schokdrone die zou kunnen worden gebruikt in een veel uitgebreidere rol, om schietpartijen op scholen te “stoppen”, met beloften van “bedreigende arbeidsongeschiktheid in minder dan 60 seconden”.

In een video-aankondiging Met slow-motionbeelden van een drone die een pijltje afvuurt, zei Smith dat het bedrijf al testsystemen had gebouwd en was begonnen met de ontwerpfase voor een systeem waarvan hij verwachtte dat het ongeveer twee jaar zou duren om te maken. In conceptweergaven die door het bedrijf zijn vrijgegeven, wordt de quadcopter-drone getoond met vier camera’s, een dart-vuurvat, een luidspreker en een “precisie-richtpuntlaser”.

“Ik ben klaar met wachten tot politici het probleem oplossen. Dus we gaan het oplossen, “Smith gezegd. “We gaan dit doen.”

Smith promoot het idee al jaren, en heeft het zelfs opgenomen in een graphic novel, “The End of Killing”, waarin een drone een schutter zapt die door een kinderdagverblijf raast. En in een vraag-en-antwoordsessie op Reddit de dag na de aankondiging, zei Smith dat hij weet dat het idee misschien “gek klinkt”, maar dat het enkele voordelen biedt ten opzichte van “de oplossing van vandaag” voor het reageren op schietpartijen: “een lokale persoon met een geweer.”

Nummerplaatscanners moesten gemoedsrust brengen. In plaats daarvan verscheurden ze de buurt.

De schokdrones, zei hij, zouden worden geïnstalleerd in aan het plafond gemonteerde “lanceerstations”, zoals rookmelders, en worden afgeschermd om te voorkomen dat “kinderen dingen naar hen gooien”. Scholen, zei hij, zouden “eenvoudige, goedkope ventilatieopeningen” boven deuren kunnen installeren om de drones in gesloten kamers te laten vliegen, hoewel hij ook erkende dat het idee “enige problemen met de brandcode” zou kunnen veroorzaken als gevolg van rookventilatie.

De drones zouden een lading van maximaal vier schoksondes van meer dan 40 voet kunnen afvuren, zei hij, en een aanhoudende stroom van elektriciteit kunnen leveren om een ​​aanvaller lang genoeg uit te schakelen zodat mensen in de buurt hen kunnen doden of hun pistool kunnen pakken. De drones zouden klein zijn en moeilijk om op te schieten, schreef hij, en “nadat we geen darts meer hebben, kunnen we de drone in iemand rammen om ze fysiek af te leiden”.

Scholen of politiebureaus, zei hij, zouden een geschatte vergoeding van ongeveer $ 1.000 per jaar per drone betalen, en het bedrijf zou ze alleen verkopen op markten waar “ze niet misbruikt zouden worden”.

De Federal Aviation Administration verbood in 2018 iedereen om een ​​drone te besturen met een gevaarlijk wapen eraan vast. Maar Smith zei dat dergelijke “wettelijke beperkingen” in de loop van de tijd zouden kunnen worden opgelost; Taserwapens en lichaamscamera’s, merkte hij op, waren in sommige staten ook illegaal voordat Axon ze op de markt had gebracht.

Het bedrijf heeft “een lange geschiedenis van werken in situaties waarin de wetten onze technologie niet ondersteunden – en toen wel toen mensen begrepen wat we probeerden te doen”, schreef hij.

Gezichtsherkenningsbedrijf Clearview AI vertelt investeerders dat het op zoek is naar een enorme uitbreiding buiten wetshandhaving

Tijdens de Reddit-sessie werd Smith gevraagd hoe hij zou omgaan met pushback van ouders die geen vliegende schokmachines in de buurt van hun kinderen wilden. “Veel ouders zouden deze situatie waarschijnlijk prettiger vinden dan een gewapende bewaker die bij de school is gestationeerd”, zei hij.

Maar de reactie op Reddit was kokend. Sommige commentatoren vreesden dat de drones zouden worden misbruikt om studenten te straffen, gevechten of politieprotesten te beëindigen, of dat ze tot onbedoelde gevolgen zouden leiden, zoals dat meer mensen zouden worden neergeschoten nadat de schutter was geschokt.

Anderen vroegen zich af of Axon inspeelt op de emotie van het moment om investeerders aan te trekken of een product te verkopen. Ze zeiden ook dat het voorstel een triest commentaar is op de zwakke reactie van Amerika op een nationale crisis.

“Het feit dat we op scholen brainstormen over drones, of de motivatie nu kapitalisme, ouderinstinct of beide is, betekent dat onze samenleving al behoorlijk ziek is”, schreef een commentator. Een ander schreef: “We houden er zeker van om symptomen aan te pakken in plaats van de grondoorzaken, nietwaar.”

Leave a Reply

Your email address will not be published.