קיימברידג’ אנליטיקה: רצון חופשי הוא רק אשליה

אחת הפרשות החמורות ביותר של הפרת פרטיות, אחרי פרשת ה-NSA, היא לא אחרת מאשר קיימברידג’ אנליטיקה. הנתונים האישיים של כמעט 90 מיליון בני אדם נכרו לצורכי תעמולה פוליטית, מהמתוחכמות ביותר שידענו עליי אדמות. חמור מכך – כל זה קרה לא רק פעם אחת בארצות הברית, אלא פעמים נוספות בעשרות מדינות.

לאחרונה התפרסם שפייסבוק הייתה מודעת למעשיה של קיימברידג’ אנליטיקה, 3 חודשים טרם הצהרתה הרשמית תחת שבועה. אין פלא שממש לפני כמה ימים, פייסבוק הודיעה על אפשרות חדשה שתאפשר למשתמשים למחוק היסטוריה באתרים ובאפליקציות צד שלישי. המידע אומנם יישמר, אבל ברגע שהמשתמש יבחר זאת – הוא לא יקושר יותר לאותם אתרים ואפליקציות בהם ביקר. מעט מדי ומאוחר מדי, כמו גם אותו קנס מגוחך של 5 מיליארד דולר שהוטל על פייסבוק, בשל חלקה בפרשיית קיימברידג’ אנליטיקה.

תכלס מה בעצם קרה שם?

קיימברידג’ אנליטיקה הייתה חברת מחקר, שמטרתה המוצהרת היא לשנות התנהגות של אנשים למטרות פוליטיות ופרסומיות (זה אפילו כתוב בסלוגן שלה: Data Driven Behavior Change). המקרה שהתרחש לאחרונה בבחירות בארצות הברית אינו הראשון, אבל מאז החברה נסגרה בשל חשיפת הפרשה. יש להניח שחברות דומות קיימות או יקומו בעתיד הקרוב, והטכנולוגיה תבוא לידי שימוש מתישהו בעתיד.

Credit: archive.org

בהקלטות סתר שבוצעו לבכירי החברה, הם מודים בפה מלא שמהלכים דומים בוצעו גם בהודו ובעוד עשרות מדינות עולם שלישי. המהלך שבוצע בארצות הברית בבחירות 2016, היה הניסיון הראשון לשימוש בטכנולוגיה במדינת עולם ראשון; והניסיון הזה, כפי שאנו רואים עד היום, היה מוצלח מאוד. המידע לצורך הקמפיין התחיל להיאסף כבר בשנת 2014, והמועמד ששילם לקיימברידג’ אנליטיקה מכהן כיום כנשיא ארצות הברית.

מהלכים דומים בוצעו גם בעשרות מדינות נוספות, והיו מוצלחים לא פחות. כאשר מבינים שקיימברידג’ אנליטיקה היא זרוע אזרחית שנוצרה במקור מתוך חברה המפתחת יישומים צבאיים, ברור מה גודל העוצמה והחדירה לפרטיות שהתחוללו כאן. אבל כאן כבר מדובר בפרשה חמורה שבעתיים – לא רק חדירה לפרטיות, אלא גם ניצול המידע ל”שטיפת מוח” של מיליוני אנשים. לא פעם אחת אלא עשרות פעמים בעשרות מדינות, מבלי שאיש ידע על כך.

איך גורמים למיליונים לשנות את דעתם?

ראשית צריך להבין איך עובדת תעשיית הפרסום המקוון. ענקיות טכנולוגיה כגון פייסבוק, גוגל, אמזון, אפל ומיקרוסופט צוברות אינספור נתונים אודות משתמשים – מנתונים דמוגרפיים פשוטים (גיל, מגדר, הכנסה, השכלה, מיקום גיאוגרפי) וכלה בנתונים פסיכוגרפיים-התנהגותיים מורכבים יותר (איזה תכנים צרכנו, מה עשינו, איזה מוצרים ושירותים קנינו, מה משפיע עלינו לחיוב ולשלילה ועוד).

אלגוריתמים אוטומטיים רבי עוצמה אוספים את הנתונים, לומדים אותם לעומק ומייצרים תבניות אישיות התנהגותיות שנקראות בשפת השיווק “פרסונה”. התעשייה הזו נקראת ביג דאטה, והיא מה שמניע כיום חלק ניכר מחברות ההייטק, הטכנולוגיה והפרסום. הבינה המלאכותית היא חלק ניכר מתעשיית הביג דאטה, וכל מטרתה היא לקצר תהליכים ולייצר הזדמנויות ששום אדם לא יוכל לבדו ליצור.

לדוגמה – האלגוריתם המתוחכם של דר’ קירה רדינסקי יכול לשמש לחיזוי העתיד בהתאם למידע המוזן אליו מהאינטרנט, אבל במקביל משמש גם את איביי לחיזוי רצונות המשתמש וליצירת משפך מכירות אפקטיבי יותר. מחשב העל ווטסון שנוצר על ידי IBM ניצח בני אדם במשחקי טריוויה, אבל משמש כיום גם לפענוח הדמיות רפואיות במהירות ששום בן אנוש לא מסוגל להן. הבינה המלאכותית של גוגל, Rank Brain, משנה את אלגוריתם החיפוש בזמן אמת כדי להגיב על התנהגות המשתמשים ולספק תוצאות רלוונטיות יותר.

באותו אופן, האלגוריתמים השולטים בניוז פיד של כל אחד מאיתנו בפייסבוק, מסוגלים לקבוע אוטומטית מה יוצג לנו ומה לא. אנחנו לא באמת רואים את כל התכנים של חברינו לפייסבוק, ובטח שלא את כל התכנים של העמודים והקבוצות שאליהם הצטרפנו. אלגוריתם-שליטה קובע מה יוצג לנו ומה לא, בהתאם למידע הדמוגרפי והפסיכוגרפי שנצבר עלינו כל הזמן, 24 שעות ביממה. בצורה כזו פייסבוק מסוגלת ליצור “עולם בועה” שמתוכנן ספציפית לכל משתמש (מה שנקרא Filter Bubble).

בתעשיית הפרסום העולמית, לכל אחד ואחת מאיתנו מוצמדת פרסונה דיגיטלית, שאמורה להוות את סך האישיות שלנו. הפרסונה הזו משמשת לצורכי טרגוט ופרסום מדויקים יותר מאי פעם. אם נדמה לכם שאצלכם זה לא קיים או שפסחו עליכם, טעיתם בגדול. כל פעולה שביצעתם בפייסבוק; כל הודעה בוואצאפ ובמסנג’ר; כל חיפוש שעשיתם בגוגל וכל פקודה קולית שנתתם למכשיר הנייד – כל אלו משמשים ליצירת הפרסונה הדיגיטלית שלכם. גוגל אפילו עוקבת אחרי כ-70% מעסקאות האשראי בארצות הברית, כדי ליצור קורלציה בין משתמשים וקניות שבוצעו דרך גוגל.

קיימברידג’ אנליטיקה הצליחה להגיע למצב שבו יש לה כ-5,000 נקודות מידע, אודות כל אחד מ-90 מיליון בני האדם שנפלו ברשתה. רובם היו משתמשי פייסבוק, שאיפשרה למידע הזה להישאר גלוי – ובכך היה חלקה בפרשה העגומה הזו. לפייסבוק לא הייתה שום מדיניות הגנה על פרטיות המשתמשים, עד לאחרונה ממש (כפי שציינתי בהתחלה, וגם זה לא ממש בטוח שיסגור את הפינה כמו שצריך).

אומנם החברה השתמשה גם במקורות מידע נוספים מלבד פייסבוק; אבל מאגרי המידע של פייסבוק מכילים את הנתונים הדמוגרפיים והפסיכוגרפיים המדויקים יותר כיום אודות מיליארדי בני אדם. אפילו לגוגל אין גישה למאגר מידע כל כך מדויק.

Credit: youtube.com

כך זה התבצע, פחות או יותר:

שלב 1 – אפיון
הטריק היה פשוט מאוד – מומחי קיימברידג’ אנליטיקה פשוט פרסמו שאלוני אישיות בפייסבוק, שטורגטו לעשרות ומאות מיליוני אמריקאים. השאלונים הללו, שנראים כמעט תמיד בלתי מזיקים ורוב האנשים מתפתה לענות עליהם (מי לא אוהב לדבר על עצמו), שימשו לאחר מכן לניתוח אישיות מלא של כל אחד ש”השתתף בניסוי”. יחד עם שאר הנתונים המופיעים ממילא בפייסבוק, נוצרה פרסונה דיגיטלית מדויקת המכילה 5,000 מאפיינים לכל אחד ממיליוני המשתמשים.

שלב 2 – מיון
לאחר מכן האנשים מוינו לדעותיהם הפוליטיות, ואלו הוצמדו יחד לפרופיל האישיותי שלהם. בצורה כזו ניתן היה לדעת מי כנראה מקובע בדעותיו הפוליטיות, ומי ככל הנראה מתנדנד ואינו בטוח בצעדיו.

שלב 3 – השפעה
קבוצת המתנדנדים בעלי הפרופיל האישיותי ה”בעייתי”, נחשפה מרגע זה והלאה להפצצה מסיבית של פרסומות ותכנים מסוג נייטיב (שנראים כמו תוכן אמיתי ולגיטימי, אך בעצם משרתים מטרות ואינטרסים).

לא ניכנס לסוג התכנים בהם הופצצה קבוצת המתנדנדים; אפשר לראות מחקר מעמיק בנושא בסרט של נטפליקס The Great Hack, שם מדובר בחלוקה מדויקת יותר ל-5 שלבים (ראו טריילר בסיום המאמר). הנקודה היא שבוצעה כאן פלישה מעמיקה לחייהם של עשרות מיליוני אנשים, ונעשה שימוש באופיים ובהתנהגותם כמכשיר נגדם – והכול בחסות פייסבוק.

נו אז מה?

בריטני קייזר, מנהלת הפיתוח העסקי של קיימברידג’ אנליטיקה, הגדירה את פעילות החברה ככלי נשק. מנהל המחקר של החברה, כריסטופר וויילי – היה הראשון להדליף את המידע ופוצץ את הפרשה בשל נקיפות מצפון. אומנם קצת מעט מדי ומאוחר מדי, אבל בדיוק כמו אדוארד סנודן שפוצץ את פרשת ה- NSA – גם פרשת קיימברידג’ אנליטיקה חרגה הרבה מעבר לגבולות הטעם הטוב.

לכאורה קיימברידג’ אנליטיקה לא שונה מכל יצרן תעמולה אחר. מומחי פרסום ותעמולה שיצרו קמפיינים פוליטיים אפקטיביים (“פרס יחלק את ירושלים”), פועלים למעשה לפי אותן הנחות בדיוק. הסטטיסטיקאית מינה צמח אמרה לא פעם ששינוי דעת קהל צריך להפעיל על קהלים קטנים. במקום לנסות להשפיע על אלו שיודעים מה הם רוצים, ניגשים דווקא אל עשרות האלפים הבודדים שיושבים על הגדר ומתנדנדים לכאן ולכאן. עוד כמה אלפים לפה או לשם, יכולים להכריע את גורלן של בחירות בכל מדינה.

ההבדל הגדול טמון בעובדה שכאן הדברים נעשו במניפולטיביות מבוססת טכנולוגיה שממנה אין להתחמק. בעוד שהאדם הממוצע יכול להתנגד במידת מה לכמה פרסומות פוליטיות; פרסומות ללא יכולת טרגוט מתקדמות – יהיה לו קשה מאוד להתנגד ל”חבילת פרסום מותאמת אישית” בפייסבוק, שמיוצרת אוטומטית אך ורק עבורו, ומפציצה אותו לא רק בפרסומות אלא אף בתכנים “טבעיים” שעלולים לעוות את תפישת המציאות שלו.

כאשר פעילות אנושית הופכת לכלי נשק המשמש נגד האנושות, יש כאן טעם לפגם. מכיוון שניתן ליצור “עולמות בועה” בהן שום דבר הוא לא מה שהוא נראה, וקשה להבחין בין מציאות לפייק ניוז – ההשפעה מחלחלת בצורה הרבה יותר משמעותית.

זה אולי נשמע מרחיק לכת, כי הרי לכולנו יש רצון חופשי. אבל העובדה הבלתי ניתנת לערעור היא שהשיטה של קיימברידג’ אנליטיקה עבדה לא רק פעם אחת, אלא עשרות פעמים בעשרות מדינות.

מי יודע מתי תהיה הפעם הבאה.

=================
המאמר נכתב בעקבות הסרט של נטפליקס The Great Hack

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *