Przeróbki zdjęć dzieci to nie wszystko. Ten kraj jako drugi blokuje chatbota Grok

• Malezyjski organ regulacyjny zablokował Groka po stwierdzeniu wielokrotnego generowania szkodliwych treści i niewystaraczająco stanowczej reakcji firmy xAI na zgłoszone zagrożenia.
• Indonezja jako pierwszy kraj na świecie zablokowała dostęp do Groka.
• Deepfake to materiał tworzone przez AI, w którym wizerunek osoby jest cyfrowo modyfikowany lub umieszczany w fałszywym, najczęściej seksualnym kontekście. 
• Działania Malezji i Indonezji wpisują się w globalny trend zaostrzania regulacji wobec seksualizowanych treści generowanych przez AI.
• Premier Wielkiej Brytanii potępił użycie Groka do generowania takich obrazów, a brytyjski regulator Ofcom rozważa dalsze kroki wobec tej technologii.
• Twórc chatbota Grok, Elon Musk, uważa to za formę cenzury.
• Po więcej aktualnych informacji zapraszamy na RMF24.pl.

Komisja Łączności i Multimediów - malezyjski organ regulacyjny - poinformowała w niedzielę, że stwierdziła "wielokrotne niewłaściwe wykorzystanie" Groka do generowania szkodliwych treści, w związku z czym na początku roku wysłała do xAI prośbę o interwencję. "Firma w swojej odpowiedzi nie odniosła się jednak do wskazanego zagrożenia" - uznała komisja i poinformowała, że Grok będzie zablokowany w kraju do czasu wdrożenia skutecznych zabezpieczeń. Zaapelowała przy tym do internautów o zgłaszanie szkodliwych treści w internecie.

Indonezja jako pierwszy kraj świata zablokowała w sobotę dostęp do Groka. "Rząd postrzega praktykę tworzenia nielegalnych deepfake'ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej" - przekazała minister komunikacji i cyfryzacji Meutya Hafid w komunikacie.

Deepfake to zdjęcie, materiał dźwiękowy lub wideo stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.

Indonezja słynie z surowego prawa dotyczącego cenzury w internecie. Przepisy te bezwzględnie zakazują m.in. rozpowszechniania materiałów uznawanych za obsceniczne. Działania władz kraju wpisują się w szerszy trend, w ramach którego regulatorzy w krajach Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI. Malezja i Indonezja liczą łącznie ponad 315 mln mieszkańców.

Użycie Groka do generowania obrazów o charakterze seksualnym spotkało się z potępieniem polityków na całym świecie. Jednym z nich jest premier Wielkiej Brytanii Keir Starmer, który określił takie działania jako "haniebne" i "obrzydliwe". 

Jak podała BBC, oczekuje się, że brytyjski regulator medialny Ofcom wkrótce podejmie decyzję co do dalszych kroków w sprawie Groka.

Ten chatbok został uruchomiony w 2023 roku z inicjatywy Elona Muska, a opracowany przez jego firmę xAI na podstawie dużego modelu językowego o tej samej nazwie. Musk twierdzi, że krytycy jego platformy szukają "jakiegokolwiek pretekstu do wprowadzania cenzury".