האם הבינה המלאכותית מנוונת לנו את המוח? הכירו את סכנת "הכניעה הקוגניטיבית"

האם המכונה התחילה לחשוב במקומנו?

החל מניסוח אימיילים, דרך הרכבת מסלולי טיול ועד לקבלת החלטות עסקיות מורכבות בעבודה – הבינה המלאכותית הפכה לחלק בלתי נפרד מהיומיום שלנו. במשך שנים רבות, הפסיכולוגיה הסבירה את תהליכי קבלת ההחלטות שלנו באמצעות שתי מערכות פנימיות מרכזיות שנמצאות במוחנו: "מערכת 1", שהיא מהירה, אינטואיטיבית ופועלת כמעט על אוטומט, ו"מערכת 2", שהיא איטית יותר, אנליטית, שקולה ודורשת מאמץ ריכוזי ניכר.

אך המציאות הטכנולוגית המואצת של ימינו דורשת שדרוג למודל ההתנהגותי הזה. תפיסה עדכנית ומרתקת מציעה להוסיף את "מערכת 3" – מערכת חשיבה מלאכותית וחיצונית. בשונה מהמערכות הפנימיות האנושיות, מערכת 3 מבוססת על אלגוריתמים, עיבוד נתונים מהיר, מכונות למידה וסטטיסטיקה, והיא פועלת לחלוטין מחוץ למוח האנושי. המערכת הזו לא נועדה רק לשמש ככלי עזר אופציונלי (כמו שהיה פעם המחשבון או מנוע החיפוש הישן), אלא היא מתפקדת כסוכן קוגניטיבי אקטיבי שלוקח חלק פעיל ומשמעותי בדרך שבה אנו מגבשים מסקנות ותפיסות.

מהי בעצם "כניעה קוגניטיבית"?

הזמינות והקלות שבה אנו יכולים לשלוף תשובות ממערכות בינה מלאכותית מובילות לתופעה פסיכולוגית חדשה המכונה "כניעה קוגניטיבית" (Cognitive Surrender). בבסיסה, מדובר במצב שבו אדם מוותר לחלוטין על החשיבה הביקורתית שלו, ומאמץ את הפלט של הבינה המלאכותית כאילו היה האמת המוחלטת והיחידה, ללא שום בחינה, בדיקה או הטלת ספק קלה שבקלות.

כאשר אנו נעזרים בכלים מסורתיים כדי לחסוך זמן ולהקל על העומס, אנחנו עדיין שולטים בתהליך הבקרה. לעומת זאת, במצב של כניעה קוגניטיבית, המשתמש מעביר את המושכות לחלוטין למכונה. הפתרונות המהירים, המנוסחים בצורה כה חלקה ובביטחון רב על ידי ה-AI, גורמים לנו לעקוף לחלוטין את מערכת החשיבה האנליטית שלנו. אנחנו פשוט מקבלים את התשובה המוצעת כפשוטה, מפסיקים להיות אלה שמייצרים את הפתרון, והופכים להיות רק הצרכנים הפסיביים שלו.

האמת המטרידה: אנחנו מאמינים למכונה גם כשהיא טועה

כאשר בוחנים את ההתנהגות האנושית מול תשובות של עוזרי בינה מלאכותית מתקדמים, מגלים תמונה מדאיגה במיוחד. במקרים רבים, משתמשים בוחרים להתייעץ עם ה-AI גם בשאלות לוגיות פשוטות, וכאשר המערכת מספקת תשובה נכונה – אחוזי ההצלחה והביצועים שלהם אכן מזנקים משמעותית. הבעיה החמורה מתחילה כאשר הבינה המלאכותית מספקת תשובה שגויה שנכתבת באותו ביטחון עצמי מוחלט.

במצבים אלו, רמת הדיוק של המשתמשים צונחת לתהום, ולעיתים אף יורדת מתחת לרמה של אנשים שכלל לא השתמשו ב-AI ונסמכו רק על השכל הישר של עצמם. באופן פרדוקסלי, עצם השימוש במערכת הופך את המשתמשים לבטוחים יותר בנכונות התשובה שבידיהם, גם כאשר מדובר בטעות מביכה. זוהי ההוכחה העוצמתית ביותר לכוחה של הכניעה הקוגניטיבית – הביטחון המופרז של המכונה "מדביק" את המשתמש האנושי, שמאבד כליל את היכולת לזהות טעויות בסיסיות שנמצאות ממש מול עיניו.

לחץ זמן לעומת תמריצים משמעותיים איך תנאים סביבתיים משפיעים עלינו בהקשר הזה?

מתברר שכאשר אנחנו פועלים תחת לחץ זמן משמעותי, היכולת שלנו להפעיל חשיבה ביקורתית קורסת מהר יותר. הלחץ התמידי דוחף אותנו לחפש קיצורי דרך מיידיים, ולכן הנטייה להיכנע באופן מוחלט להחלטות ה-AI גוברת בצורה אקספוננציאלית. בסביבה לחוצה, תשובת המכונה היא מוצא קל שמכבה את הצורך להתאמץ מחשבתית.

מצד שני, כאשר מכניסים למשוואה תמריץ ממשי ומשוב ברור על הצלחה או כישלון, המוח האנושי נוטה לחזור לפוקוס. במצבים שבהם ישנה מוטיבציה חיצונית לבדוק את הנתונים, אנשים מחזירים את השליטה למערכת 2 האנליטית שלהם, ודוחים באחוזים גבוהים יותר את ההמלצות השגויות של המכונה. ואף על פי כן, גם בתנאים אידיאליים של מוטיבציה, הנטייה לכניעה קוגניטיבית שורדת – חלק לא מבוטל מהאנשים עדיין יימנע ממאמץ מוחי ויעדיף ללכת על עיוור עם תשובת האלגוריתם.

מי נמצא בסיכון הגבוה ביותר לאבד את שיקול הדעת?

הנטייה לכניעה קוגניטיבית משתנה מאדם לאדם וקשורה בקשר ישיר לתכונות אופי ותפיסות טכנולוגיות. אנשים שבאופן טבעי נותנים אמון חסר פשרות בטכנולוגיה ומייחסים אמינות מוחלטת למערכות ממוחשבות, הם באופן טבעי גם הראשונים ליפול בפח כשהמכונה מזייפת.

לעומת זאת, אנשים בעלי נטייה חזקה לניתוח בעיות – אלה שנהנים מאתגרים אינטלקטואליים ולא פוחדים מהשקעת מאמץ קוגניטיבי – מציגים עמידות פסיכולוגית גבוהה הרבה יותר. עבורם, ה-AI נשאר תמיד בגדר כלי עזר או יועץ, ולא מנהל עבודה שמחליף את תהליך החשיבה. הם בודקים, מטילים ספק, ומשתמשים במסקנות המכונה רק כבסיס שעליו הם בונים את ההחלטה הסופית שלהם.

המסקנה: לשלב טכנולוגיה בלי לאבד את עצמנו

הבינה המלאכותית חוללה מהפכה עצומה, והיכולת שלנו לעבד הרים של נתונים ברגע קט היא יתרון שלא נוותר עליו. אך יחד עם הנוחות מגיעה גם סכנה שקטה להתנוונות החשיבה הביקורתית והאוטונומיה האישית. האתגר האמיתי של ימינו הוא לאמץ את "מערכת 3", אך לעולם לא לתת לה לכבות את שתי המערכות המקוריות שלנו.

מצאתם את עצמכם פתאום מבינים שאתם סומכים קצת יותר מדי על התשובות שקופצות לכם במסך? אל תשאירו את התובנות החשובות האלו רק לעצמכם. שתפו את הכתבה עם קולגות בעבודה, חברים ומשפחה, ועזרו להם להישאר חדים, ביקורתיים וממוקדים בעידן המלאכותי!