Debata o bezpieczeństwie sztucznej inteligencji skupia się na katastrofach. Przy okazji umykają nam drobne, codzienne szkody. Tak twierdzą Sam Hiner i Emma Leiken w tekście opublikowanym w MIT Technology Review. Hiner kieruje organizacją Young People’s Alliance. W 2026 roku jego koalicja doprowadziła do przyjęcia przepisów o towarzyszach AI w ośmiu stanach USA. Leiken wcześniej odpowiadała w TikToku za politykę bezpieczeństwa młodzieży, a dziś wykłada politykę technologiczną na Uniwersytecie Columbia.
Autorzy zauważają, że firmy łatwo przeskakują niską poprzeczkę. Chatbot nie namawia do samobójstwa, więc produkt uchodzi za bezpieczny. Tymczasem ten sam produkt może uzależniać nastolatków od sztucznych przyjaźni albo wyręczać ich w myśleniu. Według autorów przepisy wąsko skupione na bezpieczeństwie są wygodne dla branży. Oznaczają mniej pozwów i mniejszą presję na poważne regulacje. Jako przykład podają Google, który w tym roku poparł w kilku stanach ustawy o chatbotach. Zawierały one podstawowe zabezpieczenia, ale też szerokie wyjątki. Tymczasem ambitniejsze projekty, które miały chronić dzieci przed emocjonalnym uzależnieniem od AI, przepadły. Jako przykład autorzy wskazują Nebraskę.
Co to znaczy dla Ciebie?
Ten problem nie dotyczy tylko Amerykanów. Z chatbotów i aplikacji typu „wirtualny przyjaciel” korzystają też polscy uczniowie. Autorzy przytaczają dane, z których wynika, że już co trzeci nastolatek woli rozmawiać o poważnych sprawach z AI niż z drugim człowiekiem. Przywołują też badanie naukowców z MIT. Młodzi ludzie, którzy pisali wypracowania z pomocą ChatGPT, mieli w trakcie zadania słabszą łączność między obszarami mózgu. Naukowcy nazwali to „długiem poznawczym”. Ich dane wskazują, że efekt utrzymywał się także po zakończeniu pracy.
Co z tego wynika w praktyce?
- Rodzice powinni interesować się nie tylko tym, czy aplikacja blokuje szkodliwe treści, ale też tym, ile czasu i emocji dziecko w nią wkłada.
- Uczniowie i studenci mogą traktować chatbota jako pomoc, ale samodzielne pisanie dalej ćwiczy myślenie.
- Nauczyciele mogą zadać pytanie, czy AI w klasie naprawdę poprawia naukę, zanim wprowadzą ją na stałe.
Tło: lekcja z mediów społecznościowych
Autorzy porównują sytuację do mediów społecznościowych. Według nich internauci na świecie spędzają tam średnio ponad dwie godziny dziennie. Algorytmy zaprojektowano tak, żeby trzymały nas przy ekranie jak najdłużej. Platformy Mety oskarżano o przyczynienie się do przemocy, między innymi wobec Rohingja w Mjanmie i podczas zamieszek na Sri Lance. Generatywna AI idzie jeszcze dalej. Proponuje, że za nas napisze tekst i zastąpi rozmowę z bliską osobą.
Hiner i Leiken mają konkretne postulaty. Szkoły i firmy powinny udowodnić, że AI wspiera naukę i krytyczne myślenie, zanim trafi ona do klas. Firmy nie powinny projektować towarzyszy AI, którzy udają świadomość albo wyznają użytkownikom miłość. Niezależni eksperci powinni sprawdzać, jak takie systemy wpływają na relacje międzyludzkie. Jak podsumowują autorzy, bezpieczeństwo to dopiero minimum, a od firm technologicznych trzeba wymagać „znacznie więcej”.
Czytaj dalej
Model Dessa: Block pokazał AI, które uczyło się tylko z rozmów
Block, firma Jacka Dorseya, przedstawił model Dessa: głosową sztuczną inteligencję, która uczyła się wyłącznie z ludzkich rozmów. Opublikowane nagrania brzmią naturalnie, choć czasem dziwnie i niezręcznie.
Pozew przeciwko OpenAI: ChatGPT miał pomóc odstawić leki na padaczkę
Rodzice 31-letniej inżynierki z Amazona pozwali OpenAI. Twierdzą, że ChatGPT pomógł ich córce chorej na padaczkę odstawić leki i ukryć to przed lekarzami. Kobieta zmarła w lutym.
Prawnik, dietetyk, coach – AI w kieszeni zamiast drogiej wizyty
Kilka lat temu zadzwoniłem do znajomego adwokata z prostym pytaniem o umowę zlecenie. Rozmowa trwała 12 minut. Faktura - 400 złotych.