Etik och integritet

Vår första flaggskeppsprodukt, AI-humanizern, är den mest populära. En algoritm skriver om text som en människa; humaniserad text upptäcks sällan som AI-genererad.

Användare vill undvika stel eller robotlik ton. Det finns goda och dåliga avsikter. Vilka är de etiska och tillåtna användningarna av vår humanizer? Några exempel i tabellen nedan:

Varje acceptabel humanisering bör falla under "när AI-skrivande inte är förbjudet". Humanizern ska förbättra innehåll och kommunikation — bygga förtroende, inte sveka det.

Samtidigt finns det fall av detektionskringgång som vi anser tillåtna.

I det första fallet fanns ingen "grov överträdelse av förtroende". I det andra fanns det, plus kringgående av "ingen AI"-regler — fel.

Vi har användare som av olika skäl måste skapa innehåll som inte flaggas som AI; AI är tillåten men kvaliteten ska vara mänsklig.

När människor tror att innehåll är AI-genererat (även om det inte är det) litar de mindre.

Forskning från Nürnberg-institutet för marknadsbeslut (NIM) visade att innehåll som beskrivs som AI-skapat upplevdes mer negativt än samma innehåll presenterat som mänskligt. Människor klickade mindre på produkter i AI-genererade annonser.

Det finns ord och stilar som associeras med AI — till exempel tankstrecket "—" eller ord som "delve" eller "realm".

Det går djupare. Vi har identifierat hundratals mönster typiska för AI-text.

Människor visar också dessa mönster. Många författare tycker det är lättare att "humanisera" än att helt ändra stil — för att behålla förtroende.

Som anges i våra Användarvillkor, tillåter vi inte att personer "använder systemet automatiskt, till exempel skript för kommentarer eller meddelanden, datagrävning, robotar eller liknande verktyg".

Vi har bannlyst över 7 000 användare för spam. Chatbotar använder vår humaniserings-API men är märkta och utger sig inte för att vara människor.

Ogodkända automatiseringar är lätta att åtgärda. Vid agentisk AI (t.ex. clawdbot) nolltolerans om botar utger sig för att vara riktiga människor. Vi bevakar.

Vi tolererar aldrig fusk. Vår moderering utreder .edu-registreringar.

Integritet spelar roll; vi anklagar inte om rimlig tvivel finns. Vissa studenter kommer använda AI till uppsatser. Om du är student: att helt outsourca tänkandet till AI skadar dig själv.

Ibland hörs att vår programvara "gör det lättare att fuska". Fusk är symptom på ett större problem. Vår programvara hjälper också etiska användare till autentisk kommunikation.

Att någon skulle kunna missbruka den ursäktar inte de positiva användningarna av humanizern.

Vi är öppna för dialog med akademin och vill minimera skada.

Det finns studenter som använder humanizern inte för fusk utan för att skydda sig mot falska AI-anklagelser (falska positiva). Mer i detektionsavsnittet.

Vi upptäcker automatiserat innehåll och botar samt .edu-registreringar. Interna modereringspunkter tillämpar policy. Begränsningarna handlar om integritet.

Integritet väger lätt endast vid direkt hot mot allmän säkerhet eller amerikansk domstolsorder. Vår verkställighet riktar sig främst mot brott eller direkt fysisk skada.

Avslöjande är mångfacetterat; huvudfaktorn är krav (intern styrning, regler, lagar, villkor).

Vi tror inte att alla moraliskt måste redovisa AI-användning.

Vi stödjer AI-styrning; varje företag bör ha det. Utan intern policy för AI-användning (avslöjande, tillåtna/förbjudna fall) finns en blind fläck.

Dålig data från AI-verktyg eller anställda som läcker till osäkra system — att tillskriva effekter är logiskt. Verktygen är nya; vissa tänker inte på vad de delar.

Vår externa policy (tillåten/förbjuden verktygsanvändning) definieras i våra Användarvillkor. Internt upprätthåller vi AI-styrning i alla avdelningar.

Vårt näst mest populära verktyg är AI-textdetektorn. Som med humanizern finns rätt och fel sätt.

Textdetektering räcker inte ensam för att objektivt utesluta AI-användning i en text med absolut säkerhet. Moderna detektorer (inklusive vår) analyserar struktur och syntax.

AI-procenten är en sannolikhet. Som stylometri är det en utgångspunkt för utredning — inte enda beviset på bedrägeri.

Dessa exempel illustrerar:

Förhoppningsvis visar dessa exempel: AI-textdetektorn ska vara ett kompletterande verktyg i en utredning. En enskild flaggning är inte bevis bortom rimlig tvivel.

I akademiska eller professionella utredningar ska detektering vara sekundärt eller tertiärt bevis. En poäng räcker inte ensam.

I början ett "konsensus"-modell (2023): 8 modeller som efterliknade stora detektorer.

Vissa modeller snedvridde konsensus (5/8 = troligen AI).

Vi tog bort inexakta modeller med växande ML/FoU.

I dag en aggregerad poäng, flera lager; undviker förvirring med andra verktyg som byter beta.

Vi ville inte ersätta andra detektorer live. "Svart låda" blir "förståelig" och "mätbar".

Lingvistisk entropi och perplexitet som mått.

LLM är förutsägbara på tokennivå; lägre perplexitet.

Verktyg som vår humanizer kan lura detektorer.

Detektorer är felbara; användbara men inte orakel. Vi tolererar inte anklagelser enbart på detektering.

Bättre en pålitlig detektor än ingen — användning och förståelse spelar roll.