Szkoły używają sztucznej inteligencji do sprawdzania mediów społecznościowych uczniów pod kątem ostrzegawczych oznak przemocy

AI / Etyka Inwigilacja
2018-03-23 12:46.

W nadziei na powstrzymanie przemocy szkoły zwracają się do analityki dużych zbiorów danych w celu zbadania postów w mediach społecznościowych pod kątem najwcześniejszych oznak przemocy - depresji, urazy i izolacji. Shawsheen Valley Technical High School w Massachusetts zwróciła się do Social Sentinel, firmy zajmującej się analizą danych, która twierdzi, że może wykorzystać rodzaj wykrywania zagrożeń, jakiego używają agencje policyjne, do identyfikowania zagrożonych uczniów. Jednak eksperci martwią się, że eksploracja w mediach społecznościowych studentów, nawet jeśli mają najlepsze intencje, jest śliska w traktowaniu uczniów tak, jak traktujemy podejrzanych.

W rozmowie z WBUR , stowarzyszonym z NPR , założycielem i dyrektorem generalnym Social Sentinel, Gary Margolis, mówi, że firma współpracowała z lingwistami i psychologami, aby szkolić swoją sztuczną inteligencję na misjach uczniów, którzy zaszkodzili sobie lub innym. Margolis twierdzi, że stworzyli bibliotekę 450 000 wskaźników, które mogą wyzwalać alarmy.

„Na przykład cofnęliśmy się i przyjrzeliśmy się językowi, którego strzelcy szkolni używali w przeszłości w różnych manifestach - co zostało opublikowane lub co udostępnili w mediach społecznościowych” - powiedziała Margolis. „I poszliśmy zrozumieć podobieństwa i wzorce. I do pewnego stopnia możemy nauczyć komputery, jak rozpoznawać niektóre z tych niuansów ”.

Uczniowie z historii WBUR podobno nie mieli pojęcia, że ​​szkoła korzysta z usługi Social Sentinel, ale często posty w mediach społecznościowych są otwarte na przynajmniej pewien rodzaj analizy metadanych, bez wiedzy ludzi. Złożoność tej analizy oznacza, że ​​najlepiej byłoby, gdyby usługa oznaczała konta przed wystąpieniem jakichkolwiek jawnych zagrożeń i pozwalała szkole interweniować w zakresie usług społecznych.

„Nie jesteśmy narzędziem nadzoru; nie jesteśmy narzędziem do monitorowania; nie jesteśmy narzędziem śledczym ”- powiedziała Margulis.

Shawsheen Valley nie jest jedyną szkołą, która wypróbowała to podejście. System szkolny Miami-Dade zażądał 30 milionów dolarów z funduszy państwowych na przegląd swojego systemu bezpieczeństwa, w tym zatrudnienie personelu do przeszukiwania mediów społecznościowych. Szkoły w hrabstwie Wilson w stanie Tennessee również używają oprogramowania do monitorowania mediów społecznościowych, które wysyła alerty w przypadku wykrycia problematycznych słów kluczowych, podczas gdy inna szkoła we Fresno w Kalifornii ponownie analizuje ten problem po początkowym uznaniu, że jest on zbyt inwazyjny.

Chociaż wszyscy szukamy prewencyjnych, proaktywnych podejść do kryzysu związanego z strzelaniną w szkołach, wielu z nich nieufnie podchodzi do zwiększania nadzoru w celu powstrzymania przemocy z użyciem broni. W Nowym Jorku i na Florydzie szkoły przechodzą na całodobowy nadzór , rozpoznawanie twarzy i porównywanie biometrycznych baz danych oraz czytniki tablic rejestracyjnych - wszystkie technologie opracowane dla policji i agencji antyterrorystycznych. Social Sentinel współpracował bezpośrednio z wydziałami policji przed otwarciem swoich usług dla szkół.

Margulis przyznaje, że istnieją fałszywe alarmy, kiedy ktoś jest oznaczony, gdy nie stanowi zagrożenia, ale, co krytyczne, mogą istnieć również fałszywe negatywy - uczniowie uznani przez sztuczną inteligencję za nie wyróżniających się. Eksperci martwią się, że uwolnienie tej technologii w szkołach tylko powieli nierównowagę, którą obserwujemy, gdy narzędzia te są używane w policji publicznej.

„Jest to rozszerzenie możliwości szkół w zakresie nadzorowania tego, co uczniowie robią w szkole lub na terenie kampusu w związku z ich zachowaniem poza szkołą” - mówi Kade Crockford, która kieruje programem Technology for Liberty na ACLU w Massachusetts. „W wielu przypadkach w całym kraju szkoły wykorzystywały narzędzia nadzoru mediów społecznościowych w sposób, który szczególnie szkodził uczniom kolorowym. Dlatego z pewnością obawiamy się, że technologie takie jak ta zostaną wykorzystane do rozszerzenia tego, co nazywamy rurociągiem od szkoły do ​​więzienia ”.

Social Sentinel odmówił podania konkretnych liczb dotyczących wskaźnika sukcesu, ale Margulis mówi, że nauczyciele podziękowali im za ich pomoc w znajdowaniu uczniów, którzy najbardziej tego potrzebują, i docieraniu do nich.

[ WBUR ]

Suggested posts

Razer twierdzi, że Blade 14 jest najpotężniejszym 14-calowym laptopem do gier w historii

Razer twierdzi, że Blade 14 jest najpotężniejszym 14-calowym laptopem do gier w historii

Nowy Razer Blade 14. Razer produkuje już szeroką gamę laptopów od 13 do 17 cali, ale dzięki nowemu Blade 14, Razer twierdzi, że stał się najpotężniejszym 14-calowym laptopem dla graczy.

Ta wirusowa reklama na imprezę z okazji czwartego lipca Dana Crenshawa jest nieco fałszywa

Ta wirusowa reklama na imprezę z okazji czwartego lipca Dana Crenshawa jest nieco fałszywa

Widziałeś zrzut ekranu z reklamy przedstawiciela Teksasu Dana Crenshawa? Republikański kongresman urządza przyjęcie z okazji Dnia Niepodległości, a obraz z reklamy krąży w serwisach społecznościowych, takich jak Twitter.

Related posts

To szokująco inwazyjne złośliwe oprogramowanie ukradło dane z 3,25 miliona komputerów z systemem Windows

To szokująco inwazyjne złośliwe oprogramowanie ukradło dane z 3,25 miliona komputerów z systemem Windows

W latach 2018-2020 tajemniczy szczep złośliwego oprogramowania zainfekował i ukradł poufne dane z około 3,25 miliona komputerów z systemem Windows — zabierając ze sobą przerażającą ilość poufnych informacji o użytkownikach tych urządzeń.

Te linki Google mogą sprawić, że wyniki wyszukiwania zrujnują Ci życie

Te linki Google mogą sprawić, że wyniki wyszukiwania zrujnują Ci życie

Google ma stronę pomocy z linkami, które należy przesłać do kopii zapasowej, jeśli padłeś ofiarą zemsty porno, doxxingu lub oszczerstw online. Google zmienia swój algorytm wyszukiwania, aby pomóc ofiarom pornografii zemsty i oszczerstw internetowych.

Wcześniej powszechne choroby powracają po przestoju Covid

Wcześniej powszechne choroby powracają po przestoju Covid

Cyfrowo pokolorowany obraz z transmisyjnego mikroskopu elektronowego (TEM) poszczególnych cząstek norowirusa, gdy Covid-19 zanika w USA

Nie potrzebujesz AirPods, aby cieszyć się Dolby Atmos w Apple Music

Nie potrzebujesz AirPods, aby cieszyć się Dolby Atmos w Apple Music

Na początku tego tygodnia Apple włączył przełącznik, aby włączyć dźwięk bezstratny i dźwięk przestrzenny z Dolby Atmos w Apple Music. Ale chociaż włączenie tego ustawienia jest stosunkowo łatwe, może być mylące, jakie urządzenia będą obsługiwać jaki format - i czy naprawdę potrzebujesz AirPods, aby cieszyć się tym doświadczeniem.

MORE COOL STUFF

Dlaczego Al Pacino przepisał kulminacyjną scenę w sali sądowej w „I sprawiedliwość dla wszystkich”

Dlaczego Al Pacino przepisał kulminacyjną scenę w sali sądowej w „I sprawiedliwość dla wszystkich”

Al Pacino zaskoczył Normana Jewisona, mówiąc, że przepisał punkt kulminacyjny „I sprawiedliwość dla wszystkich”. Ale Pacino miał swoje powody.

Obsada „RHOC” Shakeup: Kelly Dodd Out, Heather Dubrow powraca w sezonie 16

Obsada „RHOC” Shakeup: Kelly Dodd Out, Heather Dubrow powraca w sezonie 16

Kelly Dodd została usunięta z 16 sezonu „RHOC” i nie wróci, ponieważ Heather Dubrow wraca po swoją pomarańczę.

Kevin Hart wyłącza dźwięk w Cancel Culture — „Ostatnim, co sprawdzałem, jedynym sposobem, w jaki dorastasz, jest pieprzenie się”

Kevin Hart wyłącza dźwięk w Cancel Culture — „Ostatnim, co sprawdzałem, jedynym sposobem, w jaki dorastasz, jest pieprzenie się”

Kevin Hart niedawno wypowiedział się przeciwko kulturze anulowania, zauważając, że osoby publiczne są jedynymi, od których oczekuje się, że będą doskonałe.

Kiedy pisarze „Sopranos” zwrócili się do Hitchcocka „North by Northwest” w poszukiwaniu inspiracji

Kiedy pisarze „Sopranos” zwrócili się do Hitchcocka „North by Northwest” w poszukiwaniu inspiracji

Pod koniec „Soprano” pisarze poszli na efekt Alfreda Hitchcocka, tworząc alternatywną tożsamość dla Tony'ego Soprano.

Chcesz idealnego Cuppa Joe? Piecz własne ziarna kawy

Chcesz idealnego Cuppa Joe? Piecz własne ziarna kawy

Szukałeś na świecie idealnej filiżanki kawy? Być może najlepszym rozwiązaniem jest nauka sztuki i nauki palenia własnych ziaren kawy.

Kim był tajemniczy Melchizedek w Biblii?

Kim był tajemniczy Melchizedek w Biblii?

W Księdze Rodzaju pojawia się tylko raz, a jednak był postrzegany jako prekursor Jezusa Chrystusa. Kim naprawdę był i jak związał się z Jezusem?

Fannie Lou Hamer: Od Sharecroppera do ikony praw obywatelskich i wyborczych

Fannie Lou Hamer: Od Sharecroppera do ikony praw obywatelskich i wyborczych

Urodzona w rodzinie ubogich dzierżawców w Mississippi, Fannie Lou Hamer została sekretarzem terenowym Studenckiego Komitetu Koordynacyjnego ds. Niestosowania Przemocy (SNCC) i niestrudzoną bojowniczką o prawa obywatelskie i prawa wyborcze.

Idealna burza ogólnoświatowych katastrof powoduje globalny niedobór półprzewodników

Idealna burza ogólnoświatowych katastrof powoduje globalny niedobór półprzewodników

Współczesna cywilizacja jest coraz bardziej zależna od półprzewodników, ale łańcuch dostaw został zakłócony przez pandemię COVID-19, susze i inne problemy, tak jak rośnie popyt.

Texas Man aresztowany po rzekomym przeciągnięciu byłego mamy za ciężarówkę i podpaleniu pojazdu

Texas Man aresztowany po rzekomym przeciągnięciu byłego mamy za ciężarówkę i podpaleniu pojazdu

Robert Eugene Hoffpauir, lat 37, został aresztowany i oskarżony o zabójstwo 60-letniego Romana Rodrigueza, według biura szeryfa hrabstwa Liberty

Leona Lewis mówi, że została „głęboko zraniona” Michaela Costello po tym, jak oskarżył Chrissy Teigen o zastraszanie

Leona Lewis mówi, że została „głęboko zraniona” Michaela Costello po tym, jak oskarżył Chrissy Teigen o zastraszanie

„Kiedy ludzie przepraszają (Chrissy) i okazują szczere wyrzuty sumienia i rehabilitację za swoje czyny, powinniśmy ich przyjąć i nie próbować kopać ich, gdy są przygnębieni” – napisała Leona Lewis na Instagramie

Kelsey Grammer płacze, gdy wspomina spotkanie z Paris Jackson, gdy była dzieckiem z tatą Michaelem Jacksonem

Kelsey Grammer płacze, gdy wspomina spotkanie z Paris Jackson, gdy była dzieckiem z tatą Michaelem Jacksonem

Kelsey Grammer po raz pierwszy spotkał swoją gwiazdę The Space Between, Paris Jackson, kiedy była młodsza i była świadkiem uroczej chwili między nią a tatą Michaelem Jacksonem

Reżyser Jackass 4, Jeff Tremaine, przyznał nakaz powstrzymywania się na trzy lata przeciwko Bam Margera

Reżyser Jackass 4, Jeff Tremaine, przyznał nakaz powstrzymywania się na trzy lata przeciwko Bam Margera

Jeff Tremaine, lat 54, złożył wniosek o zakaz zbliżania się do Bam Margera, lat 41, po tym, jak była gwiazda telewizji rzekomo wysłała mu i jego rodzinie groźby śmierci

Czy jesteś sędzią?

Nauka mówi, że wszyscy jesteśmy, i to niekoniecznie jest złe.

Czy jesteś sędzią?

Wiesz, kiedy kogoś spotykasz i nie możesz pomóc, ale robisz notatki w myślach. Albo ktoś przyłapie cię, że robisz im śmierdzące oko, gdy robią coś wątpliwego.

Krzysztof Kolumb nie może odróżnić manata od syreny

Krzysztof Kolumb nie może odróżnić manata od syreny

Podczas żeglugi po wodach wokół Haiti 9 stycznia 1493 roku słynny odkrywca Krzysztof Kolumb zauważył coś, co uważał za trzy syreny bawiące się w wodzie. Opowiadał później, że „wyszły dość wysoko z wody”, ale „nie były tak ładne, jak są przedstawiane, bo jakoś z wyglądu wyglądają jak mężczyźni.

Widok pola po 50 klientach

Wiele do zrobienia, ale można to zrobić

Widok pola po 50 klientach

Kiedy w 2019 roku ogłoszono, że zdecydowałem się odejść od California Symphony, aby wywrzeć szerszy wpływ poza jedną organizację, zanim pokieruję inną instytucją muzyki klasycznej, wrota otworzyły się w najlepszy sposób. Kilka miesięcy później cała nasza praca zmieniła się bardziej, niż kiedykolwiek sądziliśmy, że jest to możliwe, ponieważ koronawirus nagle zatrzymał działalność, jaką znaliśmy, otwierając nowe pytania i wyzwania dla naszych organizacji i pola.

Jakie tajemnice kryją się za powierzchnią starych obrazów?

Nowoczesna technologia i staromodna pomysłowość ujawniają zaskakujące odkrycia

Jakie tajemnice kryją się za powierzchnią starych obrazów?

Zrobił to Vincent Van Gogh i Pablo Piccaso też. Artyści malowali płótna z wielu powodów.

Language