Wzrost sztucznej inteligencji generuje coraz bardziej realistyczne treści, a niektórzy twórcy treści wykorzystują to zjawisko do oszukiwania internautów. YouTube niedawno podjął radykalne kroki przeciwko dwóm bardzo popularnym kanałom, które wykorzystywały AI do produkcji fałszywych zwiastunów, wprowadzając w błąd miliony subskrybentów.
3 informacje, których nie można przegapić
- Dwa kanały YouTube, KH Studio i Screen Culture, zostały zawieszone za użycie AI do tworzenia fałszywych zwiastunów.
- Te kanały miały łącznie ponad dwa miliony subskrybentów przed ich zawieszeniem.
- YouTube wcześniej zdemontyzował te kanały, ale ostatecznie zdecydował się je zamknąć za naruszenie zasad przejrzystości.
Wzrost generatywnej AI w treściach cyfrowych
Generatywna AI, która pozwala na tworzenie wizualnych i audiowizualnych treści o dużej precyzji, szybko znalazła swoje miejsce w internecie. Ta stale rozwijająca się technologia jest w stanie produkować obrazy i filmy, które do złudzenia przypominają autentyczne produkcje, co może wprowadzać widzów w błąd.
Znaczący przykład został wspomniany przez prezydenta Francji, z fałszywie przypisaną wiralową wideo ogłaszającą zamach stanu. Tego typu treści pokazują potencjalny wpływ AI na dezinformację online.
Popularność oszukańczych kanałów
KH Studio i Screen Culture to dwa przykłady kanałów, które używały AI do tworzenia fałszywych zwiastunów dla popularnych tytułów, takich jak „GTA San Andreas (2025)” i rzekomy powrót serii „Malcom In The Middle Reboot (2025)”. Te kanały szybko przyciągnęły szeroką publiczność, gromadząc ponad dwa miliony subskrybentów, zafascynowanych tymi zwodniczymi treściami.
Te kanały zostały zidentyfikowane przez YouTube, który początkowo zdecydował się zdemontyzować ich filmy, aby zmusić twórców do wyraźnego wskazania, że są to treści fikcyjne. Jednak po tym, jak tymczasowo odzyskały zdolność do generowania przychodów, nadal ignorowały zasady przejrzystości.
Reakcja YouTube na zwodnicze treści
W obliczu uporczywości tych kanałów w rozpowszechnianiu treści bez ostrzeżenia, YouTube podjął decyzję o ich trwałym zawieszeniu. Ta akcja rodzi pytanie o skuteczność środków wprowadzonych przez platformę w celu regulacji treści generowanych przez AI.
Wyzwanie dla YouTube polega teraz na ustaleniu, czy była to odosobniona miara, czy też będzie ona kontynuowana serią podobnych działań przeciwko innym kanałom stosującym podobne praktyki w celu oszukiwania użytkowników.
Kontekst YouTube i jego walka z dezinformacją
YouTube, platforma do udostępniania filmów założona w 2005 roku, stała się głównym graczem w dziedzinie rozrywki online, z miliardami użytkowników na całym świecie. Na przestrzeni lat musiała stawić czoła wyzwaniom związanym z moderacją treści, zwłaszcza w odniesieniu do dezinformacji i zwodniczych treści.
W dążeniu do utrzymania wiarygodnego ekosystemu treści, YouTube wprowadził różne polityki i technologie mające na celu wykrywanie i usuwanie problematycznych treści. Przypadek kanałów używających AI do tworzenia zwodniczych treści podkreśla konieczność dalszego rozwijania skutecznych strategii przez platformę w celu ochrony użytkowników przed dezinformacją.