Of je het nu leuk vindt of niet, kunstmatige intelligentie (AI) zal de manier veranderen waarop hele segmenten van onze samenleving denken en met elkaar omgaan, en dat geldt ook voor het World Wide Web.
Nu modellen zoals ChatGPT beschikbaar zijn voor iedereen met een internetverbinding, wordt het steeds moeilijker om door AI gegenereerde inhoud te scheiden van originele, unieke, door mensen gegenereerde inhoud. Het is goed dat we AI-inhoudsdetectoren hebben, toch? Verifiëren Risico's van het schrijven van AI-inhoud en hoe door AI gegenereerde tekst te detecteren.
Maken inhoudsdetectoren AI-tekstherkenning mogelijk?
AI-inhoudsdetectoren zijn gespecialiseerde hulpmiddelen die bepalen of een tekst door een computer of door een mens is geschreven. Als je gewoon de uitdrukking 'AI-inhoudsdetector' googelt, zie je dat er tientallen detectoren beschikbaar zijn, die allemaal beweren een betrouwbaar onderscheid te kunnen maken tussen menselijke en niet-menselijke tekst.
De manier waarop het werkt is vrij eenvoudig: u plakt een fragment van uw schrijven en de tool vertelt u of het al dan niet door AI is gegenereerd. In meer technische termen, met behulp van een combinatie van natuurlijke taalverwerkingstechnieken en algoritmen voor machine learning, zoeken AI-tools voor inhoudsdetectie naar patronen en doen voorspellingen, en maken op basis daarvan verbanden.
Dit klinkt geweldig op papier, maar als je ooit een AI-tool voor inhouddetectie hebt gebruikt, weet je heel goed dat het op zijn zachtst gezegd wisselvallig is. Vaak zie je door mensen geschreven inhoud als gemaakt door AI, of door AI gegenereerde tekst als door mensen gegenereerd. Sommigen zijn zelfs gênant slecht in wat ze zouden moeten doen.
Hoe nauwkeurig zijn tools voor het detecteren van AI-inhoud?
Als u zich in de VS bevindt, is het eerste Google-zoekresultaat voor "AI-inhoudsdetector" dat Schrijver. com (Voorheen Qordoba; een AI-contentplatform dat ook een eigen detector heeft). Maar wanneer u een gedeelte van een willekeurig artikel uit Associated Press In deze tool beweert het dat de kans zeer groot is dat het door AI is gevormd.
Dus je hebt het mis.
Om eerlijk te zijn, andere tools voor het detecteren van AI-inhoud zijn niet beter. Ze genereren niet alleen valse positieven, maar classificeren AI-inhoud ook als menselijk. En zelfs als u dat niet doet, is het voldoende om kleine aanpassingen aan de door AI gegenereerde tekst aan te brengen om deze volledig te laten slagen.
In februari 2023, docent aan de Universiteit van Wollongong Armin Alimardani en universitair hoofddocent aan de Universiteit van New South Wales Sydney Emma A. Jin” heeft een aantal populaire tools voor het detecteren van AI-inhoud gebruikt, wat bewijst dat geen van hen betrouwbaar is. Alimardani en Jane concludeerden in hun analyse, die werd gepubliceerd in The Conversation , dat de AI-"wapenwedloop" tussen tekstgeneratoren en detectietools in de toekomst een enorme uitdaging zal zijn, vooral voor docenten.
Maar het zijn niet alleen leraren die reden tot bezorgdheid hebben: iedereen zou dat moeten zijn. Naarmate door AI gegenereerde tekst alomtegenwoordig wordt, zal het moeilijker worden om onderscheid te maken tussen wat "echt" is en wat niet, d.w.z. detecteren wat door AI is geschreven. Dit zal een aanzienlijke impact hebben op bijna alle bedrijfstakken en gebieden van de samenleving, zelfs op persoonlijke relaties. Verifiëren Verantwoorde manieren om AI te gebruiken als contentschrijver of -editor.
Implicaties van kunstmatige intelligentie voor cyberbeveiliging en privacy
Het feit dat er geen betrouwbare mechanismen zijn om te bepalen of iets door een chatbot of een mens is gegenereerd, heeft ernstige gevolgen voor de cyberbeveiliging en privacy.
Aanvallers gebruiken ChatGPT al om malware te schrijven, phishing-e-mails te maken, spam te schrijven, zwendelwebsites te maken en meer. En hoewel er manieren zijn om je daartegen te verdedigen, is het zeker zorgelijk dat er geen app is die betrouwbaar onderscheid kan maken tussen organische inhoud en een bot.
Nepnieuws is ook een heel groot probleem. Met generatieve AI kunnen desinformatieagenten hun activiteiten op een ongekende manier opschalen. Ondertussen kan de gemiddelde persoon niet weten of iets dat ze online lezen, is gemaakt door een chatbot of door een mens. Verifiëren Manieren waarop AI cybercriminelen kan helpen.
GPTZero, een AI-detector, denkt dat de Amerikaanse grondwet door AI is geschreven.
De grondleggers waren hun tijd ver vooruit 😂 pic.twitter.com/dsXqZOJxSz
- Barsee 🐶 (@heyBarsee) 4 maart 2023
Privacy is een heel andere zaak. Neem bijvoorbeeld ChatGPT. Het werd gevoed met meer dan 300 miljard woorden voordat het werd gelanceerd. Deze inhoud is gehaald uit boeken, blogposts, forums, artikelen en sociale media. Het is verzameld zonder toestemming van iemand en met ogenschijnlijk volledige minachting voor privacy- en auteursrechtbescherming.
Dan is er nog de kwestie van valse positieven. Als inhoud ten onrechte wordt gemarkeerd als door AI gegenereerd, kan dat dan niet leiden tot censuur, wat sowieso een groot probleem is? Om nog maar te zwijgen van de schade die wordt beschuldigd van het gebruik van door AI gegenereerde tekst, kan de reputatie van een redacteur schaden, zowel online als in het echte leven.
Als er echt een wapenwedloop is tussen generatieve AI en inhoudsdetectoren, is de eerste de winnaar. Erger nog, er lijkt geen oplossing te zijn. Al onze halfgebakken producten werken lang niet zo goed, of ze kunnen heel gemakkelijk voor de gek gehouden worden. Verifiëren Manieren waarop contentschrijvers AI-schrijftools te slim af kunnen zijn.
Hoe AI-inhoud te ontdekken: mogelijke oplossingen
Alleen omdat we op dit moment geen echte antwoorden op dit probleem hebben, wil nog niet zeggen dat we er in de toekomst geen toegang toe zullen hebben. Sterker nog, er zijn al verschillende serieuze voorstellen die zouden kunnen werken. Watermerk is er een van.
Als het gaat om AI en diepe taalmodellen, verwijst watermerken naar het insluiten van een soort geheime code in door AI gegenereerde tekst (zoals woordstijl en interpunctiestijl). Zo'n watermerk zou met het blote oog onzichtbaar zijn en dus onmogelijk te verwijderen, maar gespecialiseerde apps zouden het wel kunnen detecteren.
Inderdaad, in 2022 ontwikkelde hij zich Onderzoekers van de Universiteit van Maryland Een nieuwe watermerkmethode voor kunstmatige neurale netwerken. Hoofdonderzoeker Tom Goldstein zei destijds dat zijn team in staat was geweest om "wiskundig te bewijzen" dat het watermerk niet volledig kan worden verwijderd.
Wat een gewoon mens op dit moment kon doen, was vertrouwen op zijn instinct en gezond verstand. Als er iets is aan de inhoud die u aan het lezen bent, als het onnatuurlijk, repetitief, oncreatief of duidelijk lijkt, is het mogelijk gegenereerd door een bot. Natuurlijk moet u ook alle informatie die u online ziet verifiëren, de bron dubbel controleren en verdachte websites vermijden. Verifiëren Wie bezit het auteursrecht op AI-creaties? Hoe werkt het auteursrecht voor deze kunstwerken?
De revolutie op het gebied van kunstmatige intelligentie is aan de gang
Sommigen beweren dat de vijfde industriële revolutie er al is, met kunstmatige intelligentie die centraal staat in wat wordt beschreven als een convergentie van het digitale en het fysieke. Of dit nu wel of niet het geval is, het enige wat we kunnen doen is ons aanpassen.
Het goede nieuws is dat de cyberbeveiligingsindustrie zich aanpast aan deze nieuwe realiteit en nieuwe defensieve strategieën implementeert met kunstmatige intelligentie en machine learning op de voorgrond. U kunt nu bekijken Enkele cyberbeveiligingsmythes die u kwetsbaarder maken voor aanvallen.
