איך מזהים טקסט שנכתב על ידי בינה מלאכותית?
· יניב פרסלר · תוכן AI
איך כלי בדיקה מזהים טקסט שנוצר ב-AI? מסתבר שזה לא קוד נסתר, אלא שיטה של הטיה סטטיסטית בבחירת מילים שמשאירה "חתימה" בלתי נראית, גם אם רק ערכתם טקסט קיים.
איך המרצה ידע שהסטודנט השתמש ב-AI?
הרגע חזרתי מחדר כושר ודיברתי שם עם מישהו שזיהה אותי. הוא סיפר לי שבאוניברסיטה הוא הגיש עבודה והמרצה פשוט הכשיל אותו כי הוא החליט שבינה מלאכותית כתבה אותה. שאלתי אותו אם הוא באמת השתמש ב-AI, והוא חייך במבוכה. אבל הוא ישר שאל, איך זה בכלל הגיוני? איך אפשר לעלות על זה? הרי בסוף זה סתם טקסט, אותיות ומילים רגילות לחלוטין.
אז הסברתי לו מה זה באמת "ווטרמרק" (Watermark) של טקסט ואיך זה עובד. ה-AI לא מחביא אותיות נסתרות או קודים בקובץ. זה עובד על שיטה שנקראת הטיה סטטיסטית בבחירת מילים.
הטריק של הרשימה הירוקה והרשימה האדומה
תחשבו על זה ככה: בכל פעם שהבינה המלאכותית צריכה לכתוב מילה, יש לה כמה אפשרויות עם סיכויים שונים. למשל, למילה הבאה במשפט יש 40% סיכוי שהיא תבחר במילה "חכם", 35% סיכוי במילה "נבון" ו-15% סיכוי למילה "אינטליגנטי".
וכאן מגיע הטריק של החברות. מאחורי הקלעים יש להן מפתח הצפנה סודי שמחלק את כל המילים במילון לשתי רשימות: רשימה ירוקה (מילים מועדפות) ורשימה אדומה (מילים לא מועדפות). במקום שה-AI יבחר מילים לגמרי באקראי לפי ההסתברות, האלגוריתם נותן לו דחיפה קלה וגורם לו לבחור כמעט תמיד רק מהרשימה הירוקה.
כשאתם קוראים את המשפט, זה נראה ונשמע 100% טבעי ואנושי. אבל ברגע שמעבירים את הטקסט בכלי בדיקה שמחזיק את המפתח הסודי, הכלי סופר את המילים. אם הוא רואה ש-85% או 90% מהמילים בטקסט נפלו, באופן שנראה מקרי, דווקא ברשימה הירוקה, הוא יודע בוודאות מתמטית של 99.9% שבן אדם לא כתב את זה. אצל בן אדם החלוקה הייתה לגמרי רנדומלית. אנחנו לא נראה את זה בעין, אבל האלגוריתם קולט את החותמת הזאת מיד.
זהירות: גם עריכה קלה משאירה חותמת
חשוב שתדעו, גם אם ישבתם וכתבתם עבודה מקורית לגמרי בעצמכם, אבל רק העליתם אותה לקלוד, ChatGPT, ג'מיני או כל כלי אחר וביקשתם "תעשה לי הגהה קטנה, תתקן לי שגיאות כתיב, תלטש את הניסוח", ברגע שהכלי פלט את הטקסט מחדש, הוא כבר הטמיע בו את הסימון הסטטיסטי שלו.
אני גם לא אוהב את זה, אבל חשוב להבין שגם הטקסטים שאתם מעלים לפוסטים, לכתבות ולאתר שלכם מסומנים. הפלטפורמות יודעות שבינה מלאכותית כתבה את זה, וזה כנראה יפגע בכם בעתיד. אז כדאי שתדעו את זה.