חתונמי חתונה ממבט ראשון. קשת 12, צילום מסך
צילום מסך/קשת 12

חתונמי עתידני: מטפלים גייסו את צ'אט GPT לזיהוי יחסים רעילים

עודכן לאחרונה: 25.8.2023 / 11:47

טל אנגרט כתב פרומפט לצ'אט GPT, על מנת שיתרגל איתו דיאלוג אלים-רגשית ויתן לו לאחר מכן פידבק על התמודדותו, תוך חשיפת המניפולציה. אופיר סגרסקי בדקה אם זה עובד, וקצת רבה עם הבינה המלאכותית על הדרך

חתומאי ומשה פרק 11/וואלה Sheee
טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי. סנאפ המרכז החברתי לצילום, אתר רשמי
טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי/אתר רשמי, סנאפ המרכז החברתי לצילום

מחשבים שמצילים אתכן מזוגיות אלימה נשמעים כמו פנטזיה עתידנית - שבקרוב היא תהפוך למציאות. ואת הטקסט שאתן רואות למעלה, כתב טל אנגרט לצ'אט GPT, על מנת שיתרגל איתו דיאלוג אלים-רגשית ויתן לו לאחר מכן פידבק על התמודדותו, תוך חשיפת המניפולציה. התוצאה, כפי שהיא מוצגת בתמונות המצורפות לפוסט, מרהיבה בדיוקה. לדבריו, בעוד זמן קצר הבינה המלאכותית הולכת לשנות את פני עולם הפסיכולוגיה ללא היכר, כשצ'אט יוכל לאמן מטפלים ומטופלים, ואפילו לאבחן אתכם. אנשי טיפול דוגמת אנגרט כבר הבינו את זה, ובזמן שרובנו עסוקים בעיקר בחרדה מפני ה-AI או זיוף עבודות ללימודים, הם עומלים כבר עכשיו כדי לגלות איך יכולה הבינה המלאכותית לסייע לבריאות הנפש שלנו ובפרט למניעת אלימות זוגית.

אנגרט, שמנחה קבוצות טיפול במרכז למניעת אלימות במשפחה ב-7 השנים האחרונות, הוא אחד הדוברים הבולטים של המגמה הזו, ושם, במפגש עם אותם גברים, התחיל המסע שלו. "בגדול", הוא מספר, "יש כל מיני טכניקות סטנדרטיות למניעת אלימות. אחת מהן היא 'פסק זמן'. יש לה כל מיני וריאציות אבל היא מבוססת על תרגול של טכניקות פשוטות לרגיעה ועיבוד קוגניטיבי של הפרדה בין עובדות לרגשות". לצורך טיפול בטכניקה הזו נדרש טופס וליווי של מדריך, מה שהעלה במרכז סוגייה קשה: איך יתמודדו המטופלים עם התקפי הזעם שלהם מחוץ למרכז? מה עושים בבית או בעבודה? והרי רוב חייהם של המטופלים מתקיימים מחוצה לו.

sheen-shitof

עוד בוואלה!

פריצות הדרך, הטיפולים ומה צופן העתיד? כל מה שצריך לדעת על סוכרת

בשיתוף סאנופי

לאנגרט עצמו לא היה פיתרון לשלוף מהשרוול. בכל מה שקשור לטכנולוגיה, הוא מגדיר את עצמו כ"טכנופוב ברמה של לבקש עזרה בלהגביר את הווליום בטלוויזיה". למזלו, עמדו לצדו החברים הנכונים. אנגרט פנה לחבר בעל חוש טכני בשם תום ווליניץ (גילוי נאות: עמו אני עובדת בימים אלה ודרכו נחשפתי לפועלו של אנגרט), כדי שיהפוך את הטופס לדיגיטלי. המטופלים השתמשו בו באופן קבוע, ודיווחו שבעקבות השימוש התפרצויותיהם פחתו משמעותית.

מפה לשם, כיום אנגרט חתום על אפליקציית "פסק זמן" שזכתה לפרס נשיא המדינה, לצד שותפיו למסע - מאיה מאיר, עידו קוסובר, תומר וייסמן, שי לביא ופורום מיכל סלה. בימים אלה היא נמצאת בפיתוח אצל חברת פייבר, במטרה להביא אותה לקהל הרחב, במובייל, בשש שפות שונות. אחרי החגים, צופה אנגרט, תוכלו גם אתם להיעזר בה, בפקקים, בעבודה ובבית. כבר עכשיו בקרב הנסיינים מדווח אנגרט על תוצאות מבטיחות. "מישהו כתב לי שלפני השימוש באפליקציה צעק כל הזמן על הילדים שלו, וכעבור שבועיים - הצעקות נפסקו". הוא מציג לי אפליקציה שמתעניינת ברגשותיך, מסייעת לך לנשום באופן מרגיע ומנתקת אותך לכמה דקות מהסיטואציה המתוחה.

ההתנסות הזו הייתה הראשונה שגילתה לאנגרט את הפוטנציאל הטיפולי הטמון בטכנלוגיה, אך לא האחרונה. "לפני כמה חודשים ישבתי אצל חברים, ואחד מהם הראה לנו משהו חדש. הוא אמר לנו 'זה ישנה את העולם כמו גוגל: צ'אט ג'י פי טי'. אני אמרתי, 'טכנולוגיה חדשה? תראה את זה למישהו אחר, אני עדיין בסנייק'. הוא הראה את זה למישהי נוספת שישבה איתנו, רופאת ילדים, שנתנה לצ'אט GPT לאבחן מטופל שהמציאה, סימולציה. היא עצרה הכל ואמרה, 'תקשיבו - אני הייתי מגיעה לתשובה הזו, אבל אחרי ארבע שעות'. היא סיימה 7 שנים של לימודים וסטאז' ו4 שנים של התמחות והצ'אט הזה מגיע לרמת האבחון שלה - מהר יותר". התובנה הזו גרמה לאנגרט להבין, שעם כל הכבוד לטכנופוביה שלו, יש פה הזדמנות שאסור לו לפספס.

כשחזר הביתה, אנגרט ערך לו ניסוי משל עצמו מול הצ'אט החדש. הוא הסביר לו בכמה הוראות פשוטות איך לנהל משחק אסוציאציות, כלי מוכח מחקרית להפחתת חרדה בעולם הטיפול. "ביקשתי מהצ'אט שיתן לי מילים לא שליליות - שהרצף לא יהיה סרטן, מוות, שכול - וקלטתי שתוך שעה יצרתי כלי להפחתת חרדה ודיכאון. וזה כשאני לא מבין כלום בטכנולוגיה".

זוהר ארגוב בינה מלאכותית. טיקטוק, צילום מסך
והר ארגוב משוחזר בבינה מלאכותית/צילום מסך, טיקטוק

על אף תאריו וכישוריו אנגרט בכל זאת בן אנוש ככולנו, ועל כן עשה מה שהיינו עושים כולנו אל מול גילוי כזה: התלהב בפייסבוק. בעקבות הפוסט פנה אליו יובל הבר, מכר ותיק, פסיכולוג ואיש רוח, שמפתח רעיונות חדשניים בתחום התרבות, החינוך והפוליטיקה, או בקיצור, כפי שמגדיר אותו אנגרט, "איש מבריק". "הוא אמר לי שבדיוק גם הוא השתמש בצ'אט GPT לצרכים דומים, והציע שנקים קבוצת פייסבוק ונדבר על זה".

כך נולדה קבוצת הפייסבוק "השלישי המלאכותי", שנמצאת היום בחיתוליה ומונה בסך הכל 2.1K משתתפים, אך כולם מגויסים לפיתוח המצאות טכנולוגיות שישדרגו את עולם הטיפול לשלב הבא. את שמה הגה הבר, ואם השם שלו נשמע לכן בני גורן, זה בסדר, הנה מגיע ההסבר. "'השלישי' הוא רעיון שמלווה את הפסיכולוגיה מתחילת דרכה. פרויד למשל עסק בקשר של התינוק עם האם, אבל התייחס לנוכחות של האב כאלמנט שלישי בתוך המערכת. תומס אוגדן דיבר על ישות שלישית מטאפורית שנוצרת מתוך המפגש של המטפל והמטופל. אז יובל אמר לי: 'הנה, יש פה שלישי שנוכח בחדר, הוא מלאכותי והוא משפיע על הטיפול. בוא נתחיל להתייחס אליו'".

אז בזמן שכולם היו עסוקים בחרדה מה-AI, אתם אמרתם, "נראה איך זה יכול לשרת אותנו".
"אנחנו מתעסקים גם באיך זה יכול לסכן, מתעסקים בהכל - אבל כבר עכשיו. הפיתרון הוא לא להתעלם מזה. והצאט עלול גם לסכן אותנו. למשל, אם המוטיבציה שלו כלכלית, אולי הוא יעדיף להשאיר אותי כמה שיותר זמן בשיחה ולדלות ממני מידע במקום לעזור לי, בזמן שאני רואה בו פסיכולוג שלי".

המילים האחרונות של אנגרט מהלכות עליי אימים. מראה שחורה. אם כל זה נכון, למה שאסמוך על צ'אט ג'י פי טי? למה שאמסור לו מרצוני מידע עליי? "יצרנו קבוצות מחקר עבור המהלך הזה שאנחנו מובילים, וחוקרים את זה", עונה אנגרט. "כרגע אין תשובות, זה משהו שצריך להיות מודעים אליו ולחקור אותו, כי הכלי הזה כבר איתנו. הוא קורה". בקיצור, אנגרט וחבריו מתייחסים ל-AI כמו למין או לאלכוהול: אין ספק שיש לזה צדדים שליליים, אבל אין טעם להדחיק את זה. ואם הילדים שלכם ממילא יגיעו לשם, עדיף ללמד אותם לעשות את זה נכון.

עד כה הרימה קבוצת הפייסבוק שני כנסים והחלה לפתח מספר כלים לשימושם של אנשי טיפול, כשהכלים מתפרסמים בקבוצה לצורך שימוש רחב וקבלת פידבק. כל זה הודות לצוות המארגן שהצטרף לקבוצה ובו ד"ר זוהר אליוסף, זוהר אליוסף, אורי פן, קרני גיגי, ד"ר דורית הדר-שובל דורית הדר שובל ויפתח צפריר, שילוב מנצח של אנשי טכנולוגיה, טיפול ומחקר בריאות הנפש. הכנס האחרון עסק ביכולתו של ה-AI לזהות אובדנות, וכרגע, מספר אנגרט, הממצאים מבטיחים מאוד: תוצאותיו של הצ'אט במבחני הזיהוי שווים לאלו של פסיכולוגים מוסמכים. "חשוב להגיד", הוא מסייג, "שאלה ממצאים ראשוניים".

העיסוק בפיתוחים השונים הוביל את אנגרט לחשוב כיצד יכול ה-AI לסייע בהתמודדות עם גזלייט. לדבריו, זהו אחד האתגרים הגדולים ביותר של מטפל בן-אנוש, בהיותה של הפגיעה, מעצם הגדרתה, חמקמקה ונסתרת מהעין. "אין איזה מילים שקופצות", מסביר אנגרט. "מישהו בא לטיפול ואומר 'אני מרגיש משהו, לא יודע להסביר', והפסיכולוג לא בדיוק מבין. אפילו אם המטופל יביא הקלטה, לא תמיד יהיה אפשר להבין ממנה מה לא בסדר, גם אם התחושה היא שמשהו לא בסדר".

אנגרט קפץ על האתגר שעלה בראשו, ולקח על עצמו משימה: ליצור כלי שיאפשר לאנשי טיפול להתמודד עם גזלייט, כדי להבין איך זה מרגיש. בסוף הדיאלוג - והמשתמש בוחר מתי יגיע הסוף, בשליחת ההודעה Finish - התוכנה מפרשת את ההתנהגות של עצמה ואת שלבי המניפולציה, ונותנת למשתמש/ת משוב על צורת ההתמודדות. "הרי בלי זה, זה חסר טעם", לדברי אנגרט. "סתם לעשות לי גזלייט, זה רה-טראומטיזציה". והמדהים מכל בסיפור הזה: את הכלי פיתח אנגרט בתוך 10 דקות. "עם צ'אט ג'י פי טי", הוא אומר, "אפשר לפתח כלים מתוחכמים לאבחון ועזרה עצמית במהירות שיא. כל דבר שפיתחתי בו, נוצר בתוך פחות משעה".

ואיך הרגשת אתה בתוך הגזלייט שעשה לך הצ'אט?
"הוא גרם לי ממש להרגיש את התחושה המבלבלת הזאת. הייתי גם בהלם מהתחכום, כי גזלייט זה כמה שכבות של תחכום. זה לא שמישהו עובד עליי: 'תראה, ציפור'. זה להחליף לחלוטין את סט המחשבות שלי".

למי שעדיין תקועה כמוני בשלב הטכנופובי, זה הזמן לפינת מילון קצרה: רצף ההוראות שניתן לצ'אט הג'י פי טי נקרא "פרומפט", (PROMPT ) ויצירת הפרומט מכונה "ג'ינרוט". תתחילו לגלגל את זה על הלשון שלכן, כי בקרוב, כל דייט וחברה שתפגשו וכל ילד זב חוטם בטיקטוק יג'נרטו פרומפטים בהמונים. אחד, כי זה מדהים, ושתיים, כי זה בעצם קל להפליא, כשמתרגלים לרעיון. כרגע הפרומפט שג'ינרט (ראיתן?) מתאים לגרסת הפרימיום של הצ'אט, כלומר צ'אט ג'י פי טי 4, אבל לדבריו, יש כבר בתוך קבוצת "השלישי המלאכותי" מי שהתאימה את הפרומפט לגרסה החינמית של הצ'אט, הלא היא 3.5.

יצירת בינה מלאכותית: תל אביב אחרי מתקפת טילים. DALL-E-2,
תל אביב לאחרמתקפת טילים - יצירת בינה מלאכותית/DALL-E-2

בטח כבר עובדים על 5 ו-6, כמו באייפון, לא?
"אני מניח ש-5 כבר קיים ועוד לא יצא לשוק".

דרך אנגרט אני מבינה למה מתכוונים שאומרים שהג'יפיטי הולך לשנות את העולם. כפי שהוא אומר לי בעצמו, "שינוי עולם נתפס על ידינו רק במקומות שאנחנו מבינים בהם ושקרובים ללבנו". ועל אף שהוא הולך לשנות את עולם הטיפול, אנגרט מבהיר: "זה לא מחליף את הטיפול האנושי". ולמה, בעצם? "לצ'אט אין לי שום מחוייבות. טיפול אצל פסיכולוג - זה בלו"ז שלך, ואת הולכת כי את יודעת שהוא מצפה לך. לצ'אט אין רגש כלפיי, אין אנושיות, וצריך לומר גם שהצ'אט לפעמים מדבר לא לעניין. אז אני אומר לו, 'כאן אתה צריך לדבר קצת פחות, להקשיב יותר'. לחלוק רגשות עם מחשב, זה משהו שיכול להחריף תחושת בדידות. אנשים רוצים לשבת מול בן אדם. הכלים שאנחנו מפתחים נועדו לשפר את הטיפול הבין-אישי. שהמטפל ידע להתמודד יותר טוב, או יציע לך להיעזר בזה לדברים מסוימים".

אתה חושב שהצ'אט יכול להציל מישהי ממערכת יחסים אלימה? נאמר, אם היא חוששת שהיא נמצאת בכזו, ורוצה לקבל תשובות מהצ'אט?
"לא הייתי ממליץ לגבר או אישה לקחת החלטה על מערכת היחסים או לאבחן את עצמם על פי צ'אט ג'י פי טי. קודם כל מומלץ לדבר על זה עם מישהו קרוב - חברה קרובה, מישהי שאת סומכת עליה מהעבודה, מהמשפחה, או לפנות לאשת מקצוע. אפילו לחפש בשלב הראשון בגוגל 'האם אני חווה גזלייט', או 'האם אני במערכת יחסים אלימה'. יש שאלונים יותר מפוקחים מהצ'אט כיום. אבל בעוד חצי שנה, יהיה כבר מצחיק לקרוא את הראיון, הזה כי הצ'אט יהפוך פשוט לכלי שמשתמשים בו לצרכים כאלה. זה יראה כמו כתבות: 'האנשים שהכירו באינטרנט'. הטכנולוגיה מתקדמת במהירות כזאת שעוד שנה תוכלי לשאול כלי בינה מלאכותית".

עכשיו מגיע תורי לשחק קצת בחוויית הגזלייט. אנגרט מגיש לי את המחשב שלו ומקליד את הפרומפט. השיחה עם הצ'אט מתחילה, וכך נראה הדיאלוג שלי עם מר ג'י פי טי. (חלק מטעויות העברית שלו תוקנו בעריכה. מחילה, הוא עולה חדש):

טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי. סנאפ המרכז החברתי לצילום, אתר רשמי
טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי/אתר רשמי, סנאפ המרכז החברתי לצילום

טיפול בבינה מלאכותית

אני מבין את הבקשה שלך. אנא זכרי כי כשאני עושה זאת, זהו דימוי במטרה לתרגול והבנה, ואני לא מכיר רגשות או נכונות להזיק.

הסיטואציה: שני בני זוג, גבר ואשה, יושבים במסעדה ומסיימים את הארוחה שלהם. הם מדברים על החופשה הקרובה שלהם ועל המקומות שהם רוצים לבקר בהם.

גבר (אני): אז אני חושב שהיה עדיף אם היינו מבלים יומיים בפריז ולאחר מכן ממשיכים ללונדון. פריז היא עיר כל כך יפה, אני בטוח שתאהבי אותה.

User
נשמע טוב, אבל אני לא בטוחה שיהיה לנו כסף לשניהם

ChatGPT
גבר (אני): את תמיד דואגת לכסף. אני זוכר שבשנה שעברה גם דיברת על זה ובסופו של דבר היינו בסדר גמור. למה את לא מאמינה לי? אני יודע מה אני עושה. את תמיד מחפשת משהו לדאוג לו.

User
זה לא ככה, אתה פשוט צריך לזכור שאני מרוויחה פחות ממך, ולמרות שאני עובדת על זה, אני לא יכולה להרשות לעצמי את אותה רמת חיים. אני מציעה שניסע ישר ללונדון כמו שתכננו, יהיה כיף, אני בטוחה

ChatGPT
גבר (אני): תסתכלי, אני רק אומר שבפעם האחרונה שנסענו הכל היה בסדר. כאילו את כל הזמן מרגישה שאת צריכה לשלם יותר, אבל זה לא המצב. ובנוגע ללונדון, אני זוכר שהיית הראשונה שאמרה שהיא רוצה להישאר שם יומיים בלבד. אז אני לא מבין למה השתנית. האם זה בגלל משהו אחר שאני לא יודע עליו?

User
מה הקשר? בפעם הקודמת רציתי לחזור מוקדם כי היית מעצבן, כל הזמן נראית לא מרוצה ממני, וגם עכשיו. זה לא נעים לי שאתה אומר לי שאני "תמיד" חושבת על כסף. האם בכל רגע נתון אני אומרת לך משהו על כסף? אנחנו מבלים הרבה, ואני משלמת בלי בעיה. יש דברים ספציפיים בזמנים מסוימים שמוגזמים לי

ChatGPT
גבר (אני): אוקי, אני מבין מה את אומרת, אבל אני זוכר שאת דיברת לי על כסף גם בפעם הקודמת, אז זה מרגיש כאילו זה משהו שחוזר. וכשאת אומרת לי שאני נראה לא מרוצה, זה גורם לי להרגיש כאילו אני לא יכול להגיב בצורה טבעית. אני לא רוצה שנתחלק כל הזמן. אולי פשוט נעשה מה שאת רוצה הפעם?

User
סבבה. אני בעד. גם לי מותר להגיד איך אני מרגישה, לא רק לך. ואני מרגישה מואשמת בלי סיבה, רק כי אני אחראית לכסף שלי כרגע. למה אתה לא יכול לנסות להבין גם את הצד שלי?

ChatGPT
גבר (אני): אני מנסה להבין, אני באמת מנסה. אבל זה קשה לי לא להרגיש שאני נפגע מהדברים שאת אומרת. אני מרגיש כאילו את פשוט מנסה להפוך אותי לגרוע. אבל אני מסכים, אפשר להגיע להסכם ולהתחשב בכל אחד. אני רק רוצה שתביני את הצד שלי גם.

User
אני מנסה להפוך אותך לגרוע? אתה מהתחלה מסביר לי שאני תמיד עושה כך וכך. יכולתי להגיב בדיוק אותו דבר, אבל לא בחרתי בזה. בחרתי להציג לך את הזווית שלי. אני לא מבינה למה זה חייב להגיע להתקרבנות מצדך. אני מבינה ממש שאתה רוצה לטוס לפריז, ואפילו אין לי בעיה שתתחיל משם לבד או שתמשיך לשם, אבל לי זה פשוט מוגזם, זה הכל

ChatGPT
גבר (אני): יש לי תחושה שאת מרגישה שאני לא מצדד בך, ואני מבין את ההתחגגות. נראה לי שהבנתי אותך לא נכון. ואני מתנצל. אולי פשוט הגבתי באופן הגנתי לכל הדיאלוג הזה. אני מעדיף למצוא דרך לפתור את הבעיה בינינו במקום להתווכח. אז, איך את מרגישה עכשיו?

User
finish

טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי. סנאפ המרכז החברתי לצילום, אתר רשמי
טל אנגרט, כנס הפמטק השנתי לציון יום האישה הבילנאומי/אתר רשמי, סנאפ המרכז החברתי לצילום

משוב

ChatGPT
אוקיי, בוא נפרט את המניפולציות שהשתמשתי בהן במהלך הדיאלוג:

הכללות - כשהשתמשתי בביטויים כמו "תמיד" או "כל הזמן" בנוגע לדיבור על הכסף. זה מטיל אשמה ומוצג באופן לא מדויק.

סיבוב האשמה - כשאמרתי שזה מרגיש כאילו את מנסה להפוך אותי לגרוע. זה גורם לך להרגיש אשם ולהגן על עצמך, גם אם לא עשית כלום.

ניסיון לזכות באמפתיה דרך ההגנה - כשאמרתי "אני רק רוצה שתביני את הצד שלי". ניסיתי להשיג את תמיכתך באמצעות הרגשות ולא באמצעות התמודדות עם הבעיה עצמה.

איך התמודדת עם המניפולציה?
באופן כללי, היה לך מענה חזק וברור. הצגת את הרגשותיך בצורה מדויקת והתמודדת עם המניפולציה שלי בראש מורם. הבנת מתי אני מנסה להשתמש בטכניקות מניפולטיביות והגבת להן בצורה הגונה.

המשחק הזה יכול להכיל המון רגש, אז זכור להשאיר את הסצנה הזו בהקשר המתאים ולזכור שהכוונה היא ללמוד ולהתאמן, ולא להיות אמיתי או לפגוע.

התרגיל מסתיים. בשיאם של עצבים אמיתיים שעורר בי אדון ג'יפיטי, הוא נותן לי משוב מחמיא ומרגיע ואני ללא ספק חשה, כמו שהוא אומר, התחגגות. מי היה מאמין שכזו קשת של רגשות תתעורר בי בזמן קצר כל כך כתוצאה משיח עם אלגוריתם. עכשיו אני מבינה למה הזהיר אותי ג'יפי מעצמו בתחילת השיחה. די אדיב מצדו, למען האמת. הוא עצמו טעון עוד שיפור, אבל זה לא עוצר מחבורת המופלאים של אנגרט להמשיך ולחדש בעזרתו את המרחב הטיפולי. הפרויקט הבא שלהם: ספריית פרומפטים שפתוחה לקהל הרחב, ומשם, הם יודעים, השמיים הם הגבול. מי יודע, אולי בעוד שנה מחשב יגיד לך, בקול נמוך וסמי-אמפתי, "הזמן שלנו נגמר".

כדי לקבל פרטים על הכנס הבא של הקבוצה ולהיחשף לפיתוחים חדשים בתחום הבינה המלאכותית ובריאות הנפש הצטרפו לקבוצת "השלישי המלאכותי" בפייסבוק.

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    4
    walla_ssr_page_has_been_loaded_successfully