This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
תבונה: הסכום שגדול מסך חלקיו [2-10]
Sunday, March 16, 2025 • Duration 34:20
היום אנחנו נציג את הקונספט של תכונות מתהוות, Emergent Properties, ודרכו ננסה לפרוץ את המחסום שהוצב בפני ה-AI בפרק השמיני. האם מערכת טיפשה יכולה, בסדרי גודל מסויימים, להפוך לתבונית?
מוזמנים ליצור קשר ולהצטרף לאתר הפודקאסט, וגם לטלגרם החדש!
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit
לבנות גשרים עם השמאל האמריקאי: זווית אישית עם רותם אורג
Monday, March 10, 2025 • Duration 01:15:19
הפעם ניפגש עם רותם אורג, המייסד של ארגון בשם "ליבראל". אני משוחח כאן עם רותם על הארגון שהקים, המצב בצד הליברלי של המפה בארצות הברית, ובייחוד איך ישראל וישראלים צריכים לגשת אליהם כדי לבנות קשרים חזקים וברי קיימא.
מוזמנים להאזין! פרטי התקשרות עם אתר ארגון ליבראל, והמשתמש של רותם ב-X:
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
בינה מלאכותית - אחיזת עיניים או כישוף אמיתי? זווית אישית עם ד"ר רועי יוזביץ'
Tuesday, February 25, 2025 • Duration 01:11:13
בפרק הזה של "זווית אישית", שוחחתי עם ד"ר רועי יוזביץ' על הנושא של העונה השניה: מה זה AI והאם הוא באמת תבוני, לדעתו? על הדרך גם דיברנו על משחק גו, יצירתיות של מערכות AI, עתיד מקצוע התכנות וגם - קסמים.
מוזמנים להאזין!
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
שלום לְךָ מוח, שלום לַךְ תודעה [2-9]
Monday, February 17, 2025 • Duration 40:02
שלום כולם וברוכים הבאים לאלישע והזוויות, היום ה-16 לפברואר 2025, י"ח שבט, ואנחנו בעונה שניה על בינה מלאכותית, בפרק מספר 9!
נתחיל בכמה עדכונים. קודם כל, אני שמח לשתף שהפודקאסט עבר את 20 אלף ההאזנות בספוטיפיי! ויש עוד כמה אלפים בפלטפורמות האחרות, אז אני משער שבסה"כ עברנו יחד את רף ה-25 אלף. רציתי לקחת רגע להודות לכם על שאתם כאן איתי במסעות שלי, ולעודד אתכם לשתף את הפודקאסט עם חברים, מכרים, עוקבי טוויטר וכן הלאה.
חוץ מזה, ובלי קשר לנקודת הציון החשובה הזו, יש לנו לוגו חדש לפודקאסט! חשבתי שהגיע הזמן לשדרג את המותג, ואני מקווה שאתם אוהבים אותו. תודה רבה לגיסתי שעיצבה הלוגו, אז אם מישהו מעוניין בפרטים שלה, מוזמנים לכתוב לי בפרטי ואני אקשר ביניכם.
בפרק הקודם, פרשתי בפניכם את הטיעון הסקפטי הפשוט שקובע שבאופן מהותי, מחשבים אינם יכולים לחשוב, וכיוון שכל AI שיש לנו היום הוא בסוף תוכנה שרצה על מחשב, כל פרוייקט ה-AI נדון לכישלון. וכשאני אומר "נדון לכישלון" אני כמובן לא מתכוון לכפור בערך ובעוצמה של הכלים המדהימים שאנו קוראים להם AI. מערכות הבינה המלאכותית עשו - וימשיכו לעשות - מהפכה בכל העולם בלי קשר לאיך נקרא להן. יש כאלו שרואים בהן את שורשיה של מהפכה בסדר גודל של המהפכה התעשייתית, ויש סיכוי שהם צודקים בזה. אבל גודל המהפכה אינו בהכרח אומר שהמערכות הללו זכאיות לשם התואר "תבונה". אין ספק שהשם AI מתגלגל בקלילות מהלשון, והוא גם עוזר לייצר השראה לאלפי חוקרים ומתכנתים בעולם, שקמים כל בוקר במטרה לקדם חזון של בניית מוח סינתטי. אבל התיזה משבוע שעבר - בא נקרא לה התיזה ה"סקפטית" - קובעת שמדובר באשליה ותו לא, מופע קסמים שמהתל בנו. הצגנו את הדברים בהשראת המאמרים של מארק הלפרן, שלא המציא את הטיעון אבל ניסח אותו באופן אלגנטי, ואם אתם לא זוכרים את הפרטים, אני מזמין אתכם להאזין שוב לפרק השמיני, ולחזור לכאן כשהדברים יושבים לכם טוב בראש.
ואם כבר הזכרתי את הפרק הקודם, שווה שתכירו פרט טריוויה חשוב לגביי העמדה הסקפטית של הלפרן. אחד המנסחים הראשונים שלה היה ג'ון סרל (John Searle), פרופסור לשעבר באוניברסיטת ברקלי, שהציג אותה על ידי שימוש במשל המכונה "החדר הסיני". לא נכנס לפרטי המשל כאן, אבל הוא דומה קצת להשראה ששאבתי בפרק הקודם ממופעי קסמים. כיוון שמדובר במשל קלאסי וידוע, רציתי שתכירו את השם למקרה שמישהו יזכיר אותו פעם בפניכם. שלא תגידו שאני לא דואג לכם, כן? אצרף כאן לינק לפרטי המשל למי שירצה להרחיב.
אל מול הטיעון הסקפטי שדנו בו בפרק הקודם אפשר להציב כמה תגובות. אפשר לנתח את הטיעון עצמו, ולבדוק איפה יש טעויות או קפיצות לוגיות, נקודות תורפה שיאפשרו לנו להחליש אותו. אם נדָמֶה את הטיעון כסוג של גדר שתוחמת את המחשבים לאזור שאין בו אינטליגנציה, אפשר לחפש פרצות בגדר. גישות כאלו אנחנו נסקור בפרקים הבאים. היום, אני רוצה לדון בתגובה מסוג אחר.
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit
ההתנתקות, הרפורמה, ומה שביניהן - זווית אישית עם עמית מנדלבוים [חלק #3]
Sunday, February 2, 2025 • Duration 36:14
פרק 3 ואחרון מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? ובפרק הזה אנחנו גם דנים בסערת הסרבנות, ובאופן שבו מה שקרה לציונות הדתית בהתנתקות קורה היום לצד הליברלי במפה.
תודה על ההאזנה - כל משוב יתקבל בברכה!
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
ההתנתקות, הרפורמה, ומה שביניהן - זווית אישית עם עמית מנדלבוים [חלק #2]
Sunday, February 2, 2025 • Duration 27:43
פרק 2 מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית?
ממשיכים את השיחה עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.
אל תעצרו כאן - הפרק השלישי והאחרון זמין גם כן!
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
ההתנתקות, הרפורמה, ומה שביניהן - זווית אישית עם עמית מנדלבוים [חלק #1] -
Sunday, February 2, 2025 • Duration 49:45
כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? הפעם אני משוחח עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.
זהו פרק 1 מתוך 3 בנושא - שני הפרקים הנוספים יצאו גם כן, והפיצול נועד לנוחות ההאזנה. מוזמנים להיכנס לאתר (elishasangles.substack.com) ולראות את שני הפרקים הנוספים - לא רציתי להציק לכם עם מבול של מיילים סתם בשל העניין הטכני הפעוט הזה…
ושימו לב - לוגו חדש!
כרגיל, מוזמנים להגיב כאן או לכתוב לי למייל elishas.angles@gmail.com.
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
בין בינה לאשליה מלאכותית [2-8]
Sunday, January 5, 2025 • Duration 34:59
שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר 8! היום ה-5 בינואר, 2025, - שנה אזרחית חדשה, פרק חדש! עומד להיות לנו פרק מאד שאפתני, כפי שתראו, אז אני חושב שזו תהיה אחלה דרך לפתוח את השנה כאן בפודקאסט.
לכבוד האירוע, אני רוצה שוב לעודד אתכם, כפי שעשיתי בפרק שעבר, לבקר ולהירשם באתר האינטרנט של הפודקאסט, כדי שתקבלו מייל כשיוצא פרק, וגם תוכלו לראות את כל התמונות והדיאגרמות שמוזכרות בעונה. בנוסף, יש גם מייל לפודקאסט (elishas.angles@gmail.com) - אם מישהו רוצה לשלוח, אני תמיד שמח לקבל מכם משוב, ואני מנסה לענות לכל מי שכותב. הלינקים השונים לכל הדברים הללו נמצאים בתיאור הפרק, אז - מוזמנים!
אני רוצה להתחיל את הפרק בסקירה ממעוף הציפור של מה שראינו עד כה, כדי למקם איפה אנחנו. לאורך העונה, דיברנו הרבה על מבחן טיורינג כדוגמה הקלאסית למבחן שמזהה תבונה. מבחן טיורינג אמנם קיבל מקום של כבוד בפנתאון המבחנים לזיהוי אינטלגנציה מלאכותית, אבל מאז 1950 ועד ימינו אנשים הציעו חלופות. חלקן היוו שידרוגים או שינויים על בסיס מבחן טיורינג, וחלקן פנו לכיוונים אחרים. אם ניקח כמה ניסוחים מהשנים האחרונות, אז יש את גארי מרקוס, פסיכולוג וחוקר קוגניציה, שהציע לאתגר מחשבים בצפיה בוידאו ולאחר מכן שיענו על שאלות ביחס למה שהוצג בוידאו. יש את מוסטאפה סולימאן, יזם בתחום ה-AI ומוביל תחום ה-AI במיקרוסופט, שהציע לתת ל-AI סכום של 100K דולר, ולתת לו משימה להרוויח מיליון דולר. אם המחשב יצליח במשימה, אז הוא ייחשב בינה מלאכותית. ויש גם את יובל נוח הררי. בכמה ראיונות שנתן, הררי הגדיר AI באופן רחב הרבה יותר - כמערכת שיודעת להתקדם אל עבר יעד נתון ולהתמודד עם האקראיות של המציאות מסביב בדרך לשם. דרך אגב, אני מתכנן להקדיש פרק עתידי לדברים של יובל נוח הררי בעניין - הוא מייצג גישה מסויימת לשיח על AI שנראה לי חשוב להתייחס אליה - אבל כרגע אנחנו נסתפק בדברים שהוא אמר באופן כללי.
כפי שאתם מבינים, יש הרבה הצעות שם בחוץ לאיך נזהה AI אמיתי, בינה מלאכותית אמיתית. אבל למרות כל הוריאציות השונות, יש משהו אחד שמשותף לכל התיאורים החלופיים ששיתפתי עד כה: כולם מציבים מבחן שמתמקד בביצועים של המכונה, ביכולות מוחצנות שניתנות למדידה. טיורינג התמקד בשיח אנושי זורם, ואחרים מתמקדים ביכולת להרוויח כסף או לנתח ולהסביר התרחשויות בוידאו. לצד הפוקוס הזה על התוצרים, יש גם את החלק השני והמשלים של ההצעות השונות: חוסר עניין מוחלט במה שקורה בתוך הקופסא השחורה שאנחנו בוחנים. אם זה עובד - אם זה מייצר תוצרים ששקולים לתוצרים האנושיים - אז לא אכפת לנו איך. יש כאן הנחה סמויה, שהמבחנים שאנו נאמץ כדי לבדוק את המכונות הם כל כך מאתגרים, שהדרך היחידה להצליח בהם תהיה אם המנוע שבתוך הקופסה יהיה, אפקטיבית, יישות תבונית.
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit
כשהבינה המלאכותית מאבדת את שפיותה [2-7]
Monday, December 9, 2024 • Duration 33:46
שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר שבע! היום ה-9 בדצמבר, 2024, ואנחנו נדבר היום על כל מני דברים, כולל מודלים שמאבדים את שפיותם! אז יהיה מעניין!
חוץ מזה, הרבה זמן כבר שאני שוכח להדגיש, למי שמעוניין, את קיומו של אתר אינטרנט לפודקאסט: הלינק נמצא בתיאור הפרק בספוטיפיי או ביוטוב, ומי שנרשם לאתר מקבל מייל כשיוצא פרק חדש, וגם יכול לקרוא את התמלול של הפרק. במיוחד בעונה הזו, התמונות והייצוגים הויזואליים מאד עוזרים, אז יש אתר כזה, ובואו תירשמו!
בואו נפתח את הפרק שלנו היום בשאלה, כדי לעורר את התיאבון: מה היה קורה אם היינו מאמנים את GPT על הפלט של GPT עצמו?
כדי לוודא שכולנו מיישרים קו, בואו ואפרק את השאלה הזו לגורמים שלה, על פי כל הדברים שראינו בעונה עד כה. נתחיל בתזכורת על איך הכלי הזה שקוראים לו GPT נוצר. GPT זו בעצם מערכת AI ש"האכילו" אותה המון קטעי טקסט שכתבו בני אדם, היא חילצה את התבניות שחבויות בהם בתהליך אינדוקטיבי, באופן כזה שהיא יכולה להפעיל את התבניות בתהליך דדוקטיבי ולייצר טקסטים חדשים. לתהליך האינדוקציה נקרא "אימון" או "למידה", בעוד שלתהליך הדדוקציה נקרא “הפעלה” של המודל המאומן. ושווה לזכור - המודל הזה מתחיל טאבולה ראסה, נקי מכל מידע על שפה, ורק תהליך החשיפה לדאטה אנושי מעצב אותו, כמו פלסטלינה, כך שהטקסטים שהוא מייצר יהיו דומים לטקסטים שהוא אומן עליהם, כלומר טקסטים אנושיים.
ובכן, נחזור עכשיו לשאלה שבה פתחתי. נניח שיש לי מודל שפה משלי בשם ג'פטו, שהוא בעצם GPT של היום. אז עכשיו אני יכול לבקש ממנו לייצר לי המון טקסטים בהמון נושאים, ואז לקחת אותם, ולהשתמש בהם כדי לאמן GPT חדש. אנחנו נקרא לו פינוקיו, שהרי בעצם ג'פטו כאן הוא זה שמאמן את פינוקיו, ובכך נופח בו חיים. ואז השאלה היא - באיזו איכות יהיו הטקסטים של פינוקיו? או במילים אחרות - האם פינוקיו יהיה ילד אמיתי, או רק בובה על חוטים?
השאלה הזו תלווה אותנו לאורך הפרק היום, אבל עוד לפני זה היא מתקשרת לפרק שעבר. כפי שאתם זוכרים, דיברנו שם באופן נרחב על הקשיים שיש בהשגת דאטה שבני אדם ייצרו לצורך אימון של מודלים. כיוון שכך, החלום הרטוב של עולם ה-AI הוא שלא נזדקק לבני אדם במשימה הזו בהיקפים גדלים והולכים, וזאת משום שנוכל פשוט לבקש מה-AI של הדור הקודם לייצר לנו דאטה שכזה. אם ג'פטו יכול לייצר דאטה באיכות גבוהה דייה, כך שפינוקיו יהיה ילד ככל הילדים, אז גם אם יגמר כל הדאטה הזמין באינטרנט אפשר יהיה לייצר עוד דאטה סינתטי בקלות רבה, בלחיצת כפתור.
בשל החשיבות הרבה של הנושא הזה, נעשו ניסויים מדעיים בעניין, ואני אסקור כמה מהם בהמשך הפרק. בינתיים, קחו אולי איזו דקה לחשוב מה קרה באותם ניסויים. האם התברר שפינוקיו הוא מודל שקול בעוצמתו לג'פטו? אולי הוא אפילו היה חזק ומדוייק יותר ביכולותיו? או שמא להיפך, הביצועים שלו התדרדרו והתכנסו למשהו בינוני? התשובות - בהמשך.
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit
כמה מאזינים פנו אלי אחרי הפרק ושאלו - רגע, אבל מה עם המוח האנושי? גם המוח הוא בסוף מכונה פיזית, שמבוססת על סיגנלים חשמליים בין תאי-עצב הקרויים נוירונים. לכל הרוחות, כל מערכות ה-AI של היום בנויות על תשתית שקוראים לה רשתות נוירונים, ארכיטקטורות שעוצבו בהשראת המוח האנושי. אז, אם אנחנו מצליחים לחשוב בעזרת המוח, אז זה אומר שקיימת ארכיטקטורה כלשהי של מחשבים שתוכל לחשוב, הלא כן?
כשחשבתי על השאלה הזו, הייתי חייב להיות כנה עם עצמי: מדעי המוח הם מטרופולין סואן של רעיונות וגילויים מדעיים, ואני לא מתחיל בכלל לגרד את הידע הנרחב בנושא. וחוץ מזה, אם היינו רוצים לשטוח את כל נושא הקשר שבין בינה מלאכותית לבין המוח, היינו צריכים להכניס לכאן מומחים מהמון תחומי ידע לגביי המוח האנושי - פסיכולוגים, נוירולוגים, מומחים לאבולוציה וכאלו שיכולים לספר לנו על המוח של קופים וכלבים ומה אנחנו יודעים על היכולת שלהם לחשוב, וכן הלאה. ולכן, מה שהחלטתי לעשות היום הוא בעיקר לפתוח צהר לאיך אני ניגש לחשיבה על עניין ההקבלה שבין המוח לבין בינה מלאכותית, עם כמה דוגמאות ממש בפינצטה, ובתקווה שזה יעזור לכם ויתן לכם כלים טובים לארגון הידע שלכם בנושא. בנוסף, בפרקים הבאים אנחנו ניגע בעוד נושאים המשיקים למה שאנו יודעים היום על המוח, לפחות זו התכנית שלי, אז אני מקווה שהפרק הזה לא יהיה סוף פסוק בעניין.
אז, מאיפה נתחיל? נראה לי שהדבר הראשון שצריך לומר הוא שבמסגרת העונה שלנו, יש משמעות מיוחדת להזדקקות למוח.. שכן בעצם הצגת השאלה אנחנו סוטים במידה מסויימת מדרכו של טיורינג וחושפים חולשה בפרוייקט שלו. הרי טיורינג שאף להתמקד רק בביטויים החיצוניים של אינטליגנציה וחשיבה, והוא נמנע באופן מכוון מלהזדקק לשאלה איך שתיהן מתממשות אצל בני האדם. טיורינג קיווה בכך לדלג קדימה לפתרון בלי להבין את מהות הדבר שהוא מנסה לפתור - לבנות מערכות חושבות בלי להגדיר מראש מה זו חשיבה. אבל מה שה"גישה הסקפטית" טענה באופן מאד משכנע הוא שכאשר מסתכלים מתחת למכסה המנוע ומבינים איך מחשבים עובדים, אשליית החשיבה שלהם מתנפצת. כיוון שכך, מי שרוצה לייצב את החזית הזו נדרש בעצם לשכנע אותנו שהמוח האנושי, שכולנו מסכימים שמסוגל לחשוב, זהה למחשבים מבחינה מהותית כלשהי. הבעיה היא שבכך הוא שובר את המסך שטיורינג הציב, מסך שמפריד מראש בין ה"מה" שאנו חווים, לבין ה"איך" שנסתר מעינינו.
אז בסדר, יש כאן ניצחון בקרב קטן מול "מסך הבּערות" שטיורינג ניסה להציב. אבל מהרגע שפרצנו את מסך הבערות, הויכוח שבין הגישה הסקפטית לגישה האופטימית עובר לחזית אחרת. בעלי הטיעון ה"אופטימי", אלו שסבורים שבינה מלאכותית יכולה להיות תבונית באמת, באים ואומרים: הלפרן, וגם ג'ון סרל - אתם ושכמותכם משחקים מלוכלך. על הבמה יש לא קוסם אחד אלא שניים - הבינה המלאכותית כמובן, אבל גם הבינה הביולוגית האנושית. בפרק הקודם דאגתם לחשוף את הטריקים של הקוסם המלאכותי, תוך כדי שייחסתם יכולות חשיבה מהותניות למוח האנושי. אבל בכך אתם רק ממנפים יתרון לא הוגן שיש למוח האנושי, והוא שאנו לא יודעים איך בדיוק הוא עובד. אם תרימו את מכסה המנוע של המוח הביולוגי ותביטו פנימה, אם נתחיל לחפור לעומק באופן שבו הוא עובד, אנחנו נחשוף שהמוח שלנו דומה מאד למחשב, דומה מדי, ושגורל שניהם תמיד יהיה זהה.
ובהחלט, זהו טיעון מאד אִינְטואִיטִיבִי ששווה דיון. כפי שאמרנו, מערכות בינה מלאכותית כיום בנויים באופן דומה מאד למוח. שניהם מבצעים חישובים על ידי תקשורת בין נוירונים המאורגנים בצורה של רשת. אצל שניהם, הנוירונים עוברים כיול בתהליכים של למידה לאורך זמן עד שהם מגיעים לתפקוד ראוי. ואצל שניהם - וזה החלק שמתקשר ישירות לפרק הקודם - אצל שניהם הנוירונים פועלים באופן מכני, דטרמיניסטי וחסר חשיבה. כל נוירון פשוט מגיב לַגִירויים שהוא מקבל מהסביבה. אז, ידידי הסקפטים, אתם יודעים מה? כל הכבוד לכם שכיתרתם את המחשבים והוכחתם שלעולם לא יוכלו לפרוץ את גבולות הדטרמיניזם ולחשוב באמת, אבל עכשיו הגיע הזמן שתשימו לב שכשהתקנתם את המנעול על דלת הגדר, על הדרך גם כלאתם את עצמכם ואת המוח האנושי באותו כלוב לוגי. אם הטיעון שלכם חזק מספיק כדי להוכיח שמחשבים לא יהיו מסוגלים לחשוב לעולם, אז באותה מידה הוא מראה שמה שהמוח האנושי עושה כבר היום איננו חשיבה. תקראו לזה מה שאתם רוצים, אבל אין משהו מהותי במוח הביולוגי, ובחשיבה האנושית, שלא יכול להתממש במחשב מבוסס סיליקון עם תוכנה מתוחכמת.
הטיעון הזה נשמע חזק, אבל ניסוח טוב יותר לכך הוא שיש לו פוטנציאל להיות טיעון חזק, פוטנציאל להיות תשובה ניצחת כלפי הסקפטיים. הקביעה "מחשבים שקולים מהותית למוחות" איננה עובדה, אלא היפותיזה. יש להיפותיזה הזו הרבה תומכים, ויש להם סיבות טובות לחשוב כן. מצד שני יש גם הבדלים חשובים בין המערכות השונות, ולכן סימן השאלה עדיין שם. ומתוך סימן השאלה הזה עולים הרבה כיוונים מעניינים לבחינת הנושא.
בואו נתחיל מהכיוון האופטימי. להוכיח שהמוח שקול ב-100% למחשבים זה כמובן לא אפשרי, אבל מתוך ההצלחות של GPT אפשר בהחלט לקבל הרבה רעיונות והשראה לגביי איך שהמוח האנושי עובד. אני אזכיר לכם ש-GPT, כל שהוא מאומן לעשות זה לעשות auto-complete, השלמה של המילה הבאה, לפי כל המילים הקודמות שהיו בשיחה. אתם הכרתם את הפיצ'ר הזה ממזמן כשכתבתם הודעות טקסט בנייד, ו-GPT פשוט שם את זה על סטרואידים. אז, בהינתן שזה כל מה שזה עושה, זה מפתיע באופן מטורף שגישה שכזו מספיק עוצמתית כדי לנהל שיחה משכנעת עם בני אדם, ולהצליח פעמים רבות במבחן טיורינג! מה אפשר ללמוד מזה שזה המצב? ובכן, כיוון שהטבע אוהב להיות חסכוני במשאבים ואנרגיה, אולי אפשר להסיק מכאן שחלקים מסויימים מיכולת הדיבור האנושית דורשים מכניזמים הרבה יותר פשוטים ממה שחשבנו. וכך, נניח, אומר הפילוסוף נד בלוק, פרופסור באוניברסיטת ניו יורק, בראיון שנתן לאחרונה:
"אני לא יודע אם אפשר ללמוד ממערכות ה-AI לגביי המבנה של השפה האנושית, אבל הן בוודאי לימדו אותנו המון על חשיבה אנושית, ובייחוד אלו חלקים מהשכל אולי מנצלים טכניקה פשוטה יחסית של auto-complete. זו תגלית חשובה ביותר."
אז, זו דוגמה אחת לאופן שבו ההקבלה בין המוח לבין המחשב יכולה להאיר אור חדש על תפקודו של המוח. ואם זה המצב, מאד קל להתמכר לרעיון שהשניים דומים מאד באופן פעולתם. ולמי שרוצה להאזין לשיחה המרתקת עם פרופ' בלוק, אני אשים את הלינק לשיחה הזו שלו בתיאור הפרק.
אבל לצד נקודות הדמיון, יש גם הבדלים חשובים. נניח, בואו ניקח לדוגמא את ההבדל הבולט ביותר בין השניים - העובדה שהמוח הוא מערכת ביולוגית שמוטמעת בגוף האדם בעוד מחשבים עשויים מסיליקון וכלואים בקופסא מלבנית משעממת. אולי האינסטינקט שלכם הוא שזה עניין שולי, ושמה שחשוב בסוף הוא האלמנטים המהותיים יותר של המערכת, כמו מפת הקשרים בין הנוירונים, הרגישות והכמות שלהם, סוג המידע שהמחשב חשוף אליו והכמות שלו, וכן הלאה. קשה להבין למה שהחומר שממנו המוח עשוי יהיה כזה חשוב - על פניו, נראה שמדובר רק במאפיין היסטורי מקרי, פרי תהליכים אבולוציוניים. אבל מסתבר שיש חוקרים רציניים שלא חושבים כך. קחו לדוגמא את הדיון הבא שהתרחש לפני כמה חודשים בנושא שמשיק לנושא שלנו: האם מכונות יכולות להיות בעלות תודעה כמו בני אדם.
אחד הדוברים בדיבייט הזה היה אניל סת', מדען מוח בריטי ופרופסור לנוירו-קוגניציה חישובית וקוגניטיבית באוניברסיטת סאסקס. במסגרת השיחה, המראיין הציע את התרגיל החשיבתי הבא, שאמורה להוכיח שתודעה סינתטית היא אפשרית: נדמיין עתיד שבו נוכל לבצע ניתוח מוח בזמן שהפציינט ער, ובכל שלב להחליף בָּמוח נוירון ביולוגי בודד בנוירון סיליקוני בודד, וככה נחליף אותם אחד אחד עד שכולם יוחלפו. אנחנו ניגש לניתוח הזה כמובן כשיש בידינו נוירון סינתטי מושלם. בנוסף, כדי לוודא שאנחנו לא הורסים כלום, אחרי כל החלפה של נוירון הפציינט אומר לנו ברוגע, "הי חברים, אני עוד כאן! זה עדיין אני, יוסי!" - ובכך מרגיע אותנו שהתודעה שלו עדיין שם, יציבה כתמיד. אם נצליח לעשות משהו כזה, נראה שזה יוכיח מעל כל ספק שניתן לבנות מחשב בעל תודעה! הרי בסוף התהליך הזה כל הנוירונים במוח הם עכשיו עשויים מסיליקון והתודעה עדיין שם, אז - זה שקול…
בתגובה לשאלה הזו, פרופסור סת' הסביר ששאלות תיאוריטיות כאלו נשמעות טוב, ומאוד מגניבות בתור שעשוע אינטלקטואלי. אבל כשחוקרים אותן לעומק מגלים שהן יותר מטעות מאשר עוזרות לברר את הנושא. הן מְמָסְכות את המאפיינים הקריטיים של המוח שימנעו ממצב כזה להיות אפשרי אי פעם, מאפיינים שממוטטים את המסגרת הקונספטואלית של השאלה לפני שאפילו מתחילים לחשוב עליה. והנה ציטוט של דבריו בתוספת כמה מילות קישור והבהרה, ואחר כך אשמיע לכם את המקור:
"המוח אינו מערכת שאתה יכול פשוט להחליף בו רכיבים באופן הזה… אני חושב שהמוח הינו מערכת מהסוג שאי אפשר להפריד בה בין מה שהיא עושה, הפונקציונליות שלה, לבין מה שהיא, התשתית החומרית הביולוגית. בוא נסתכל על המקרה שהבאת. הרי לפעמים נוירון ביולוגי מופעל ומשחרר סיגנל לנוירונים השכנים שלו לא בגלל שהוא עשה איזה חישוב ורוצה לשתף מידע, אלא בגלל סיבות ביו-כימיות, כדי לשחרר זבל שהצטבר אצלו, וזאת בניגוד לנוירון מסיליקון. הצטברות הזבל הופכת להיות חלק מן המערכת, ואז כדי לייצר נוירון שיתנהג ככה, אנחנו נהיה חייבים להחליף לא רק את כל הנוירונים הביולוגיים בסיליקון, אלא גם לייצר גרסה סינתטית של כל המטבוליזם שקורה בתוך המוח ושמייצר את הזבל הזה, באופן שייצר אינטרקציות דומות עם הנוירונים מסיליקון. וכשממשיכים את ההיגיון הזה עד לקצה מבינים שאי אפשר באמת לבנות מוח מסיליקון, בדיוק באותו מובן שאי אפשר לבנות את גשר ברוקלין מגבינה שוייצרית."
במילים אחרות, פרופסור סת' מדגים כאן שהחומר הביולוגי ממנו המוח האנושי מיוצר, והסביבה שבה הוא שוכן אינם דברים בּרי החלפה. או, כפי שהוא אומר, ברגע שתחליף אותם באופן מדוייק, בעצם תמצא שהגעת לאותה נקודה כמו זאת שיצאת ממנה ושניסית לחקות. במצב שכזה, מתברר שבעצם לא יצרת חיקוי אלא שכפול מה שכבר קיים. העובדה שמדובר בתשתית ביולוגית היא חלק מהותי מהפעילות המוחית, וכל ניסיון לבנות מודל מסיליקון שיצליח לחקות את פעילות המוח במדוייק נדונה לכישלון - אם לא כישלון תיאורטי, אז בוודאי כישלון בשטח.
פרופ' סת' דיבר, כפי שאמרתי, על בניית מוח עם תודעה, אבל שווה לקחת מכאן את התובנה המהותית שהוא מביא לדיון: זה משהו אחד להצביע על נקודות דמיון בין המוח האנושי לבין המחשב, וזה משהו אחר לקבוע שנקודות הדמיון הללו הן המרכיבים ההכרחיים למימוש פונקציונליות נתונה, לדוגמא הפונקציונליות של המוח. אם ניקח דוגמה מפורסמת מעולם הגנטיקה, בטח שמעתם פעם על זה שיש דמיון של יותר מ-90% בין הגנום האנושי לבין הגנום של קופים מסויימים, אבל בטח גם שמתם לב שבני אדם שונים מן הקופים באופן קיצוני מאד בשטח. וגם אצלנו - אולי רשתות נוירונים קיימות בשתי המערכות, במוח ובמחשבים, אבל בו זמנית יתכן שמרכיבים נוספים, שלא ידועים לנו כיום, נדרשים כדי להשיג חשיבה כמו-אנושית במחשבים.
לסיום הזווית הזו, אציין שתובנות כאלו ואחרות שדומות להן מובילות הרבה חוקרי AI להציע שכדי להגיע לבינה מלאכותית אנחנו צריכים להרחיב את הסימולציה של המוח ולהפוך אותה להיות עוד יותר דומה למה שקורה אצל בני אדם. נניח, תומכי הרעיון של "Embodiment" סבורים שבינה מלאכותית אמיתית תיווצר כאן רק אם היא תשכון בתוך גוף רובוטי ותלמד על העולם כמו תינוק, מתוך מגע וחיכוך עם העולם דרך חיישנים שיוצמדו לה. בכך אנחנו רואים דוגמה יפה לאיך שהמוח האנושי הופך להיות תבנית שחוקרים מנסים לאמץ ולחקות כדי לייצר בינה מלאכותית.
בואו נמשיך הלאה. את השאלה הזו, האם המחשב והמוח זהים, אפשר גם להפוך על פיה ולמנף את המוח האנושי לקביעת היעדים של הבינה המלאכותית. אפשר לשאול: מה מכל הדברים שהמוח האנושי עושה הוא חלק ממה שנדרש כדי לקבל אינטליגנציה וחשיבה? המוח שלנו דומה למחשב בכך שהוא מסוגל לעשות חישובים כמו 1+1=2 ולתכנן איך לנצל משאבים באופן יעיל; אבל לצד זה הוא גם תומך בהרבה תהליכים מנטליים נוספים: עיבוד תחושות פיזיות ורגשות; דמיון, וגם חלומות. באופן רחב ביותר, התודעה שלנו, consciousness, וגם המודעות העצמית שלנו, self consciousness נתמכות על ידי המוח. אם המוח שלנו הוא המודל לחיקוי בדרך למימוש אינטליגנציה מלאכותית, אנחנו חייבים לשאול - האם זו חבילה אחת של הכל או כלום, או שמא אנחנו יכולים לארגן את הפעילות המנטלית ב"חבילות", ולקחת רק את החבילה שמתאימה לנו? ואם כן, אם אפשר להפריד בין היכולות הללו, אז מהם האלמנטים הקריטיים שרק בזכותם מתאפשרת תבונה? נניח, האם מכונה שאיננה חולמת יכולה להיות תבונית, או שמא הדברים שלובים זה בזה באופן מהותי? וממילא, האם אפשר לקבוע באופן חד משמעי שכיוון ש-GPT אינו חולם, למיטב ידיעתי, אז זה מוכיח שהוא אינו תבוני?
אנחנו מגלים כאן שוב, לצערנו, שלא פיתחנו בעונה שלנו כלים להתמודד עם השאלה הזו עד כה. אני כמובן אאשים מישהו אחר בבעיה הזו - את טיורינג כמובן! לא נדרשנו לפיתוח הכלים הללו כיוון שלא הגדרנו מפורשות לְמָה אנו מתכוונים בחשיבה, וזה כי הרשנו לעצמנו להתמקד בתוצרים המדידים במקום במהות הדבר עצמו. אז אולי הגיע הזמן להתחיל לפרום את הפלונטר הזה, חוט-חוט, צעד-צעד.
בתור השראה לדיון, בואו ניקח דברים שאמר יובל נוח הררי בראיון שנתן לאתר הצרפתי Le Point, יחד עם מומחה ה-AI יאן לה-קון, שדיברו שם על נושא הבינה המלאכותית. שניהם נשאלים מהי ההגדרה של תבונה, Intelligence, והרי התשובה של הררי:
הררי: אינטליגנציה היא היכולת לפתור בעיות. החל מיצורים חד-תאיים המחפשים מזון ועד לבני אדם שגילו איך לעוף לירח – זו אינטליגנציה. זה לא אותו דבר כמו תודעה. אצל בני אדם, שתי התכונות הללו משולבות יחד... אנחנו, בני האדם, לעיתים משתמשים בתודעה כדי לפתור בעיות, אבל היא לא מרכיב הכרחי. יצורים רבים פותרים בעיות בלי שתהיה להם תודעה כלשהי, כמו צמחים ומיקרואורגניזמים. גם מכונות יכולות להיות אינטליגנטיות ולפתור בעיות בלי שיהיו להן רגשות.
יש לי הרבה מה לומר על הדברים הללו של הררי ביחס ל-AI, וכפי שאמרתי בפרק הקודם אנו נקדיש זמן לנתח אותם בפרק עתידי. אבל כרגע נסתפק רק בסיור קצר סביב הרעיון שלו שמבדיל בין אינטליגנציה לתודעה. מה זו אינטליגנציה ללא תודעה? הררי מספר לנו: היכולת לפתור בעיות. כמו טיורינג, הוא מאפיין אינטליגנציה על פי הביטויים החיצוניים שלה, ובראייה שכזו תודעה, שהיא דבר פנימי ליישות, איננו המהות אלא רק כלי שמשרת את האינטליגנציה, כלי שאפשר להסתדר גם בלעדיו. הוא מביא כמה דוגמאות לאינטליגנציה שכזו - יצורים חד-תאיים וצמחים, שמצליחים לפתור בעיות של הישרדות בטבע הכאוטי, וגם מכונות, כמו מחשבים, שמבצעים חישובים מתמטיים בפתרון הבעיות שמציבים בפניהם.
אבל האם באמת מתוך הדוגמאות הללו אנחנו יכולים להתייחס לתודעה ככלי שאינו נדרש לאינטליגנציה? תנו לי להציע שגם לפי ההגדרה של הררי עצמו אני לא בטוח שזה נכון עד הסוף, שכן יתכן - אני רק מציע כאן - שיש רמות מסויימות של אינטליגנציה שניתן להגיע אליהן רק בעזרת תודעה. ובואו ננסח זאת בצורה שמתאימה להגדרה של הררי, בסדר? אולי יש בעיות בעולם שאפשר לפתור רק בעזרת הכלי הזה ששמו תודעה. ואם זה המצב, אז אולי אחד הלקחים שאנחנו צריכים ללמוד מן המוח הוא זה: שכדי להשיג בינה מלאכותית מתקדמת מספיק שנהיה מרוצים ממנה, נהיה חייבים להעניק למכונות תודעה.
אז זו נקודה אחת לחשוב עליה, אבל האמת היא שכשחושבים על זה, שמים לב שקורים כאן גם דברים עמוקים הרבה יותר, ואני רוצה לנצל את ההזדמנות, ואת דבריו של הררי, כדי להקדיש את סוף הפרק היום להרהורים על העונה כולה עד עכשיו.
אחד הדברים המעניינים בכל השיח על תחום הבינה המלאכותית הוא שאתה מרגיש הרבה פעמים שאנשים סובבים סחור סחור סביב הדבר שהם באמת רוצים לומר ולהציע, אבל לא אומרים אותו במפורש. אולי זה בגלל שאין להם תמיד את המילים הנכונות, ואולי זה בגלל שהם מנסים להימנע מתגובות צוננות מהציבור, ואולי זה משהו אחר לחלוטין - אני לא יודע בדיוק. אבל כשאני מסתכל על העונה עד עכשיו, אני שם לב שהסיפור הזה של תודעה יושב לו שם ברקע כל הזמן, מהרגע שדיברנו על מבחן טיורינג. בואו ואסביר למה.
תחשבו רגע על "מבחן הררי", שנגדיר כך: אם ישות יודעת לפתור בעיות - היא ישות תבונית. לפי המבחן הזה, מתי האנושות יצרה אינטליגנציה מלאכותית? לפני המון המון זמן, אולי עוד בימיו של האדם הקדמון. אם כל דבר שפותר בעיות הוא אינטליגנטי גם ללא תודעה, אז אפשר לייחס תבונה, נניח, לאופניים פשוטים, שְכֶּן בזמן שרוכבים עליהם יש להם מנגנונים מכניים רבים ש"פותרים בעיות" על הכביש, כמו מניעת החלקה, תנועה רציפה, בלימת זעזועים וכן הלאה. ולפי אותו הגיון, גם לתרמוסטט יש אינטליגנציה, כי הוא פותר בעיות של ויסות חום: הוא חש את הטמפרטורה בחדר, ומגיב בשינוי מצב המזגן או הרדיאטור בהתאם. ההבדל היחיד בין תרמוסטט לבין מחשב-על הוא במורכבות הבעיות שהם פותרים, אבל שניהם חברים ב"מועדון האינטליגנטים".
גם בעולם החי אפשר לצלול לרזולוציות דקות יותר. הררי אמר שיצורים חד-תאיים הם אינטליגנטים - ומה עם הישויות הביולוגיות שרצות להם שם בתוך התא? המערכת שבתוך התא עוסקת בין השאר בפתרון בעיה חשובה ביותר - שכפול ה-DNA, ויש הרבה חלבונים, הקרויים אנזימים, שעוסקים בזה. יש את אנזים ההליקאז שפותח את הריץ-רץ' של ה-DNA, אחריו מגיע אנזים בשם פרימאז שיוצר מקטע RNA קצר שמסמן את תחילת אזור השכפול. אחריו יש אנזים בשם DNA פולימראז שאחראי להצמיד בסיסים תואמים לצד הפתוח בכיוון מסויים, ואנזים אחר בשם DNA ליגאז שמחבר מקטעים שהפולימראז יצר. ואלו רק מספר קטן ממש מכל הרכיבים שפעילים לנו שם בפנים בזמן שה-DNA משוכפל. אז גם חלבונים, כך נראה, צריכים להתקבל לאותו מועדון כמו המחשב והתרמוסטט, ולהיחשב תבוניים.
עכשיו, אולי אתם חושבים שהלכתי רחוק מדי, ואולי אתם מאמינים שהררי היה שם בְּרֶקס לפני שהיינו מגיעים לתרמוסטטים. אם זה המצב - כל שאני יכול לומר בשלב הזה הוא שלא ברור לי איפה צריך לשים את הגבול. לשם הקוריוז, תנו לי להביא לכם כאן ציטוט מתוך דבריו של ג'ון מקרתי, פרופסור למדעי המחשב והקוגניציה, שכתב מאמר ב-1979 בשם "ייחוס תכונות מנטליות למכונות", ובו הופיעה הקביעה הבאה, ואני מצטט:
גם לגביי מכונות פשוטות ביותר, כגון תרמוסטטים, ניתן לומר שיש להן אמונות, ונראה שהיכולת להחזיק באמונות מסויימות זו תכונה שמאפיינת את רוב המכונות המסוגלות לפתור בעיות.
כלומר, מקרתי הולך אפילו רחוק יותר מהררי, ומוכן לייחס לתרמוסטטים לא רק אינטליגנציה, אלא גם סט של אמונות. במקרה של התרמוסטט, הוא ממשיך ומציע שהאמונות יהיו דברים בסגנון "החדר קר מדי", "החדר חם מדי", ו"החדר בטמפרטורה נכונה". לא כאן המקום להכנס לעמדתו של מקרתי, כמובן. רק רציתי שתראו כיצד וכמה מהר אנחנו יכולים לאבד שליטה על המשמעות של מילים כשההגדרות שלנו מרחיבות מדי, ולהגיע למקומות שאולי לא חשבנו שנגיע אליהם לכתחילה. אה, וגם אהבתי את זה שהוא על הדרך תמך בעמדתי וקבע שתרמוסטטים מסוגלים לפתור בעיות - כלומר, שלפי הררי תרמוסטטים הם אכן אינטליגנטים.
עכשיו, כש"מבחן הררי" יושב לו ברקע, בואו תחשבו שוב על המבחן האהוב שלנו - "מבחן טיורינג". פתאום נראה לי סופר מעניין שכשטיורינג חיפש לו מבחן לזיהוי אינטלגנציה, הוא בחר דווקא ניהול שיחה עם בני אדם, ולא, נניח, כפל של שני מספרים גדולים במהירות שיא. למה כפל מהיר לא היה מועמד למבחן? אחת הסיבות לכך היא כנראה שפשוט, כבר ב-1950 מחשבים היו מסוגלים לעשות את זה, או לפחות היה ברור איך לבנות כאלו שיעשו זאת, אז זה לא היה אתגר כזה מעניין. אבל לדעתי העניין הוא עמוק יותר: טיורינג בחר במכוון בעיה שאצל בני אדם מערבת באופן כבד וקריטי את הכלי הזה שנקרא תודעה. בן אנוש לא מסוגל לעבור את מבחן טיורינג אם הוא לא קשוב ומודע לשיחה. תודעה מגיעה יחד עם תשומת לב, וכמו שכולנו יודעים, כשאנחנו לא מקשיבים למה שבן שיחנו אומר לנו, אנחנו בסוף נגיד משהו שיסגיר את זה. כלומר, מבחן טיורינג בעצם בודק אם מחשב מסוגל לנהל שיחה כמו בן אדם בעל תודעה, ולא רק בעל אינטליגנציה.
אני מודה שרק כשהגעתי לפרק הזה התחילה להפציע אצלי ההכרה שאולי יש הבדל בין הכותרת של המאמר של טיורינג - "מכונות חישוב ואינטליגנציה" - לבין השאלה שטיורינג הציב בה לקוראים: "האם מחשבים יכולים לחשוב?" "לחשוב" זהו שם פועל, המשמש אצלנו בשפה הרגילה, וגם באנגלית, לפעולה מודעת. המוח שלנו עסוק כל הזמן בעיבוד של מידע, והרבה ממנו קורה ברמה התת-הכרתית, אבל אנחנו משתמשים בקביעה "אני חושב" או "חושבת" רק ביחס למצבים שבהם אנחנו מודעים לחשיבה שלנו. לעומת זאת, "אינטליגנציה" זהו שם עצם, משהו סטטי שאולי אפשר לשייך לדברים שאינם מודעים. אבהיר שאני לא מנסה לרמוז שטיורינג הגה באבחנות הללו, אבל אני חושב שזה יצא יפה שאנו מצויים לאורך כל העונה במתח שבין שתי המילים הללו.
בכל אופן, בא טיורינג ואמר - מחשבים חושבים מהסוג שמעניין אותי הם מחשבים שמסוגלים לדמות פעולה שבני אדם עושים רק בעזרת חשיבה מודעת. בניגוד אולי להררי, די ברור שהוא חשב שיש משהו שונה באופן מהותי במכונה שמסוגלת לפתור בעיות מהסוג הזה, משהו שיבדיל בינה לבין המכונות הפשוטות יותר שהוא הכיר, כמו תרמוסטטים.
עכשיו, לסיום, בואו נשאל – האם גם היום אנחנו חושבים שיש דברים שבלי תודעה לא נוכל לעשות, בעיות שלא נוכל לפתור ללא הכלי הזה? ואולי החידושים בתחום ה-AI, דברים מדהימים כמו GPT וחבריו, מוכיחים דווקא את הכיוון שאומר - תודעה היא לא דבר נדרש כדי לפתור בעיות גדולות. עובדה שהמכונות הללו מצליחות לעבור את מבחן טיורינג בציונים גבוהים, וזאת בלי שיש בהן גרם של תודעה.
ובכן, ברגעים כאלו אני שמח שהקדשנו כמה פרקים לנושא הזה בדיוק. הרי בפרקים 6 ו-7 הרחבנו רבות על כך שלפחות נכון להיום, המכונות זקוקות כל הזמן להזרקה של דאטה אנושי נקי ומקורי כדי לשמר את היציבות והיעילות שלהן. למרות שאפשר לנמק את הצורך הזה מכמה כיוונים, הרבה מהכיוונים הללו מתכנסים לְמָה שראינו בפרק החמישי, שבו דיברנו על האופן שבו מכונות מבינות שפה. אתם בוודאי זוכרים שאמרנו שם שיש שתי דרכים להבין את המשמעות של מילה: כמעוגנת בדבר ממשי בעולם או בחוויה אנושית; או כמערכת סגורה, ביחס למילים אחרות, כמו במילון. בעוד שבני אדם מבינים מילים בשתי הדרכים, מכונות מסוגלות להבין את המשמעות של מילים רק בדרך השניה, ולכן הן זקוקות לתיווך אנושי - כי רק בני אדם מבינים את הישות המהותית שקיימת מעבר למילים, שעליה המילה מצביעה. רק בני אדם מבינים מה זה מזלג מתוך מפגש עם המזלג. כפי שאמרנו באותו פרק, אצל בני אדם המזלג קדם למילה מזלג, בעוד שאצל מחשבים - השניים באו לעולם יחדיו.
איך כל זה קשור לשאלה שלנו כאן, אתם תוהים? ובכן, הידיעה הזו, המפגש הזה עם המזלג ושאר העולם - המפגש הזה קורה רק בזכות זה שאנחנו בעלי תודעה. קשה להגדיר מהי תודעה בדיוק, ואנשים מדיסיפלינות שונות מגדירים אותה אחרת. אבל למיטב ידיעתי אין חולק על כך שבניית שפה אנושית היא תוצר של תודעה. והדברים די מתבקשים, נכון? שפה היא דבר שאנו ממציאים כדי לתאר את העולם שאנו מודעים לו, וכדי לעזור לתקשר את העולם עם אנשים אחרים מסביבנו. ושוב, קל לראות את זה אם פשוט נשים לב לְמָה שאמרתי קודם: שיחה בין אנשים, המשתמשת בשפה, היא תהליך מודע. ונכון, הרבה מילים מגיחות לחיינו בצורות מפתיעות ולא מתוכננות, אבל עבור כל מילה שאתם מכירים היה שלב שבו מישהו כתב את המילה או השתמש בה באופן מודע, וזו הסיבה שאתם מכירים אותה ויודעים את משמעותה.
אם כן, אנחנו רואים שיש דברים שלפחות כיום אנחנו לא יודעים לפתור בלי תודעה, ולכן תמצאו הרבה דיונים באינטרנט לגביי השאלה הזו: איך נבנה מחשב עם תודעה? האם ל-GPT כבר יש תודעה, ואיך נדע באמת אם זה קרה? האמת היא שהשאלה הזו היא קשה ביותר, לפחות כל עוד אנחנו לא מבינים מה זו תודעה, למה היא נוצרת ואיך היא נוצרת במוח שלנו. לשאלה הזו קוראים "הבעיה הקשה של התודעה", The Hard Problem of ,Conciousness והיא טורדת את מנוחתם של חוקרים רבים כבר שנים רבות. אם אתם חושבים שזה קשה לזהות אם המחשב הוא תבוני, אז תנו לי לספר לכם שלהסיק שיש ליישות כלשהי תודעה זה עוד יותר מאתגר.
אבל נראה שאנו סוטים מהנושא העיקרי - אז בואו נחזור למסלול. מה שעולה מכל מה שראינו היום הוא שהמוח האנושי יכול לגלות לנו מהם המאפיינים הקריטיים לאינטליגנציה ברמה גבוהה. ולכן, גם אם הררי צודק ברמת העיקרון שניתן לייצר אינטליגנציה ללא תודעה, לא בטוח שזה מסלול חכם לבחור בו כשאנו מעצבים את ה-AI העתידי שלנו. אולי כל עוד אין ל-AI תודעה, הוא ימשיך להתנגש בתקרת הזכוכית של הצורך בדאטה אנושי, כלומר בדאטה שמתווך לו דרך יישות בעלת תודעה. הצורך הזה ימחיש לנו כל הזמן שהמחשב לא באמת מבין את העולם ואת הבעיות שהוא מנסה לפתור, אלא רק מנסה לחקות את בני האדם. לחקות אותם מספיק טוב כדי לעבוד עליהם, לגרום להם להאמין מסוגל לחשוב, אבל לא לחשוב בעצמו.
אז, הגיע הזמן לסיים! מה שראינו היום היה רק אוסף אחד של זוויות על נושא המוח, ויש כמובן זוויות נוספות. יש כאלו שהולכים בכיוון דואליסטי, שמשמעו שצריך לחפש את ה"תבלין הסודי" לפעילות המוח במשהו שאינו מטריאליסטי, אינו חומרי - נניח נשמה, או נפש, או אנרגיה מסוג אחר. דואליזם טהור, כזה שטוען שאין כל קשר בין המוח לבין החשיבה שלנו, כבר אינו מבוסס מדעית, אבל גישות שעושות סינתזה בין השניים קיימות עדיין. ויש גם כיוונים מדעיים אחרים. גישה מפורסמת אחת היא זו של פרופסור רוג'ר פנרוז, זוכה פרס נובל לפיזיקה, שמקדם כבר עשרות שנים רעיון לפיו דווקא פעולות במישור מכניקת הקוונטים הם אלו שמאפשרים למוח להבין דברים בעולם, ורק מחשבים שיחקו את היכולות הקוונטיות של המוח אולי יצליחו להגיע לתבונה אמיתית.
אלו נושאים כבדים ועמוקים, ואם היינו נכנסים אליהם כאן בפודקאסט הקטן שלנו, לא היינו מסיימים את העונה לעולם. אז אנו נסתפק בפתיחת השערים הללו לחשיבה, ואתם מוזמנים להיכנס אליהם ולראות מה מתאים לכם. אני אצרף לפרק לינקים לכל מני מקורות בעניין, כדי לעזור לכם במסע הזה. אני גם באמצע ספר על המוח כרגע, ואם יהיו דברים נוספים שיעלו לי תוך כדי הקריאה, אני אשתף כאן בפרקים עתידיים.
בשורה התחתונה, פתחנו את הפרק בשאלה, האם המוח והמחשב שקולים מבחינת ה"פוטנציאל התבוני" שלהם. איפה הפרק הזה משאיר אותנו? מה שראינו הוא שיתכן שכן ויתכן שלא, הכל בתלות למה שאנחנו חושבים שהם המרכיבים הקריטיים הנדרשים לחשיבה. בנוסף, ראינו גם שלהשוואה כזו יכולה להיות גם השלכה לא צפוייה, של הצבת "תנאי סף" גבוהים יותר לכניסה למועדון, שפתאום דורש הוכחה שהמחשב אינו רק בעל אינטלגנציה, אלא גם בעלת תודעה. במילים אחרות, ההקבלה הזו היא חרב פיפיות בויכוח שבין הסקפטיים לבין האופטימיים: נניח, היא יכולה להגיד שבאופן עקרוני המחשב יכול להיות תבוני, אבל שבפועל קשה להאמין שזה יקרה בקרוב, ולכן אנחנו נמשיך בפרקים הבאים עם טיעוני נגד נוספים, כאלו שינסו לפרוץ את הגדר שבנינו בפרק שעבר באופן יותר ישיר.
אבל, מה אם הכל זו עבודה בעיניים? תחשבו רגע על מופע קוסמים. כשאתם הולכים לצפות במופע שכזה, נניח של אמן חושים כמו ליאור סושרד, אתם צופים בבן אדם עושה דברים שנראים, מבחוץ, כמו כישוף אותנטי: קריאת מחשבות, חיזוי העתיד, וכן הלאה. אבל אתם לא יוצאים מהאולם בסוף הערב באמונה שהוא אכן מכשף, אלא בעיקר סקרנים לדעת מה הטריקים שהוא הפעיל בלי ששמתם לב, כדי לגרום למראית עין של כישוף. אתם גם יודעים, אם למדתם פעם איזה קסם או שניים, שאם הוא היה מגלה לכם את הטריק, כל המסתורין היה נעלם מיד, והיה מוחלף בהערכה עמוקה ליכולות אחרות של הקוסם: הביצוע המדוייק, ניווט תשומת הלב של הקהל כדי שהאשליה תהיה מושלמת, וכן הלאה. אז אולי זה מה שקורה גם עם מערכות ה-AI - אולי ההתמקדות שלנו בביצועים מבחוץ פשוט מאפשרת לנו להתמכר לאשליה של חשיבה? אולי בעצם מבט מאחורי הפרגוד יחשוף שהקוסם מארץ עוץ אינו מכשף אלא רק שרלטן?
אז, זה מה שאנחנו נעשה כאן היום - אני אציג את הטיעון הסקפטי החזק ביותר שאני מכיר ביחס לתבוניות של מערכות ה-AI שסובבות אותנו. האמת היא, אני עומד ללכת רחוק הרבה מעבר לזה: אני אטען שמחשבים, באופן מהותי וסופני, לא חשבו בעבר, אינם יכולים לחשוב בהווה, וגם בעתיד לא יוכלו לחשוב, אפילו לא טיפה. ואולי, אולי יום יבוא והאדם יצליח לבנות מערכת מלאכותית שמסוגלת לחשוב - אבל מערכת כזו, אם וכאשר תבוא לעולם, לא תהיה על טהרת המחשבים.
אני יודע ששמתי כאן יעד שאפתני מאד, כזה שנועד לקעקע את כל הפרוייקט של AI מראשיתו ועד סופו, ואנחנו נראה אם זה יצליח! וכמובן, אנחנו כאן ב-"אלישע והזוויות" אוהבים להציג דברים מזוויות שונות. אז, גם הפרק הזה לא יהיה סוף פסוק, ואנחנו נראה את הקונטרה לדברים שאציג כאן היום בפרקים הבאים. אז אם אתם אישית מאד מאמינים ב-AI כעתיד האנושות, אל תתייאשו ותעברו לפודקאסט אחר שיעשה לכם נעים בבטן. בסוף, הדרך הכי טובה להגיע לאמת היא לתת לרעיונות הפוכים להתנגש ולהתחכך, ולתת לניצוצות שיוצאים מההתנגשות להאיר לנו את הלילה בדרך אל היעד.
והערה אחרונה, לפני שניגש לבשר של הפרק: השלד של הפרק הזה מגיע מתוך כמה מאמרים שקראתי, שכתב אדם בשם מארק הלפרן. הלפרן הוא יליד 1931, אבל ב-2020 הוא עדיין פרסם מאמרים בנושאי טכנולוגיה. הוא עבד לאורך חייו ב-IBM, ובמעבדות המחקר של פאלו אלטו, ובערוב ימיו עבר לכתיבה טכנית, ובין השאר פרסם כמה ספרים. המאמרים שלו על בינה מלאכותית (הנה אחד, ועוד אחד), המגיעים ממקום סקפטי, היו מרשימים בבהירותן. חשוב לומר שהמאמר האחרון שלו שמצאתי, מ-2020, פורסם לפני ש-GPT יצא, אבל המהות של הביקורת שלו עומדת במבחן הזמן. זה באמת היה פשוט תענוג למצוא משהו כזה, שנכתב על ידי אדם יחסית אלמוני למיטב ידיעתי, ולגלות יהלום נסתר שמתחבא לו אי שם ברשת.
אז בואו נתחיל. לאורך הסדרה הזכרנו כל מני תכונות שנראה שהן חלק מהותי ממה שזה אומר לחשוב: אינדוקציה, דדוקציה, למידה ואולי עוד כמה שאני לא זוכר כרגע. לצורך הפרק הזה, אני רוצה להוסיף עוד אבחנה לגביי חשיבה: חשיבה היא המנוע שמאפשר לבני אדם לפתור בעיות באופן יצירתי. בואו ניקח לדוגמה את מה שקורה כשאתם מנסים למצוא את המפתחות של הרכב של בן או בת הזוג, רגע לפני שאתם יוצאים לסרט. אפשרות אחת היא לעבור כל ס"מ רבוע בבית ולבדוק אם המפתחות שם. אפשרות שניה היא לנסות לחשוב איפה הם הסתובבו באותו יום בבית ואיפה הגיוני שהם השאירו את המפתחות, ולמקד את החיפוש בהתאם. בשתי הגישות, מבחן התוצאה יהיה שהמפתחות ימצאו, אבל בניתוח התהליך אנחנו נראה שהגישה הראשונה לא מצריכה חשיבה, בעוד השניה כן. הגישה השניה דרשה ניווט מנטלי וסינון מושכל של כל האפשרויות התיאוריטיות לגביי מיקום המפתחות, כדי לצמצם את מרחב החיפוש למשהו הרבה יותר מפוקס.
עם הרקע הזה, בואו נעבור להסתכל על המחשב, ולשאול את השאלה שטיורינג רצה להימנע ממנה: האם בתוך המחשב מתבצעת חשיבה?
ובכן, למזלנו הרב אנחנו יודעים טוב מאד איך מחשבים עובדים. בני אדם כותבים תוכנה שמגדירה למחשב מה לעשות, והמחשב מבצע אותה. אני יודע שמה שאמרתי נשמע פשוט מאד, אבל שימו לב שוב לדברים: המחשב מבצע, תמיד, ללא לאות וללא סטייה, בדיוק את מה שאומרים לו. לא יותר, ולא פחות - בדיוק מה שאומרים לו. אם יקרה איזה פעם מצב שבו מחשב כלשהו יגיע לשורה בקוד שלו, והוא יבצע משהו אחר ממה שכתוב שם - היינו קובעים שמדובר בבאג, בוירוס, או כל דבר אחר שנחשב סטייה מההתנהלות התקינה של המכשיר. הדברים הללו נכונים בין אם הביצוע היה לקוי, ובין אם הביצוע היה מושלם אבל נעשו עוד דברים שלא נכללו בפקודה, נניח אם לחצתי על האות "א" ועל המסך הופיעו האותיות "אב". זה אחד הדברים היפים והמעצבנים במחשב: הוא תמיד מבצע בדיוק את מה שפקדו עליו לעשות. ומכיוון שכך, מתכנתים כמוני יודעים שאם התוכנה שלנו לא עובדת, אז בוודאות של 100% הטעות היא אצלנו, בקוד שנתנו לו.
כלומר, מחשבים הן מכונות דטרמיניסטיות לחלוטין, ומכאן קצרה הדרך להסקת המסקנה שמחשבים אינם חושבים. בוודאי, מתרחשים בתוך המחשב המון חישובים, זה נכון, אבל המחשב עצמו אינו זה שמנווט ומחליט אילו חישובים לבצע. כל שהמחשב יודע לעשות הוא משהו אחד: לבצע באופן עיוור את הדברים שהוכתבו לו מבחוץ, על ידי המתכנת או המתכנתת. הוא לא מוסיף כלום על פני מה שהוא קיבל מבני האדם. שום תובנה לא מגיעה מתוך המחשב, אלא רק ממוחו של המתכנת שכתב את התוכנה, או ממוחם של אלו שמפעילים אותה.
בואו נעצור לרגע ונבחן את הדברים - האם מה שאמרתי הוא נכון, שהמחשב עושה רק מה שאומרים לו? על פניו, זו עובדה שלא ניתן לחלוק עליה. ועדיין, יש שינסו לשכנע אתכם - ואולי גם את עצמם - שהמחשב מסוגל לחמוק מהדטרמיניזם שכפיתי עליו כאן, ובכך להזריק לו קורטוב של חשיבה. בואו נבחן שלוש כיוונים להצעות שכאלו כאן, כי מתוך זה שקצת נאתגר את מה שאמרתי, הדברים יתבהרו.
כיוון אחד שאנשים מציעים בפורומים שונים הוא להצביע על מצבים, שעולים הרבה לאחרונה, שבהם המחשב משנה את הקוד שלו עצמו. נניח, לתת ל-GPT שיבחן את הקוד שלו, ויבצע מקצה שיפורים. האם גם אז נאמר שהקוד החדש מבצע את מה שאמרו לו בני האדם? האמת, זו שאלה יפה ומעניינת, שדורשת הרחבה מיוחדת, ולכן אני מתכנן להקדיש לה ולאספקטים שונים שלה פרק שלם, אולי אפילו הפרק הבא, אז בינתיים נשים אותה בצד ונתעלם ממנה באלגנטיות.
הכיוון השני נוגע למשהו שורשי ונפוץ מאד בתוכנות מחשב ובמערכות AI במיוחד, והוא השימוש באקראיות כחלק מהתוכנה. לאלו שלא מכירים, בהרבה תוכנות ישנם קטעים שבהם התנהגות המחשב נקבעת על פי מספר אקראי שמהחשב מגריל. נניח שיש ארבע אפשרויות, המחשב יגריל מספר בין 1 ל-4 ולפי מה שיצא הוא יפעל. דוגמה ששמעתי בעניין פעם היה לגביי וייז, שאם המערכת רואה שיש שלושה מסלולים אפשריים בין נקודה א' ל-ב', שזמן הנסיעה בהם דומה, היא תגריל עבור כל נהג מספר אקראי ולפיו תחליט באיזו מן השלושה להדריך אותו. באופן הזה היא מפזרת את העומס בכבישים, במקום לעודד את כולם לנהוג באותה הדרך ולגרום לפקק.
אם כן, יש כאלו שיכולים לטעון - אתה אמרת שהמחשב פועל באופן דטרמיניסטי, אבל הנה דוגמה למשהו לא דטרמיניסטי. יש אקראיות בתהליך! לא הכל אפשר לחזות מראש, ולא הכל נקבע על ידי המתכנת!
הטענה הזו היא טענה יפה, אבל היא בו זמנית גם שומטת את הקרקע מתחת לטיעון שהמחשב עצמו חושב. הרי, הגרלת מספר והתנהלות לפי מה שיצא זו גם כן פעולה מֵכָנִית וחסרת חשיבה, אז העובדה שמחשבים מבצעים תהליכים כאלו אינה מעידה שהם חושבים. ובנוסף לכך, אפילו שהמתכנת לא יכול לִצְפות מראש מה יעלה בגורל הָגְרלה נתונה, בסופו של דבר הוא זה שכתב את שורת הקוד שפקדה על המכונה להתנהל כך. המכונה, כפי שאמרנו, רק עושה מה שאומרים לה, ושום דבר מעבר.
הכיוון השלישי והאחרון, אולי הכיוון הכי נפוץ ששמעתי כהצדקה לעמדה שמחשב יכול לחשוב, הוא זה: זה לא נכון שהמתכנת אמר למחשב מה לעשות! הרי אתה בעצמך אמרת, אלישע, שה-AI לומד לבד, מתוך הדאטה, איך יש להתנהג? אם התוכנה לומדת לבד, אז היא בהחלט מכניסה כאן תובנות משל עצמה, דברים שהיא למדה עצמאית ושבני אדם לא קבעו עבורה. האם זה לא מוכיח את ההיפך ממה שטענת כאן, אלישע?
גם כאן, מדובר בטיעון חביב, אבל הוא לא יותר מאשר הסחת דעת, אשליה מנטלית שאנחנו משלים בה את עצמנו. בואו נשים מחשבים בצד ותחשבו על האנאלוגיה הבאה: מכירים את דפי העבודה לילדים של "חיבור נקודות"? מדובר בדפים שבהם יש נקודות, לצד כל נקודה יש מספר, והילד צריך למתוח קו ישר בין כל שתי נקודות עם מספרים עוקבים. אם הוא מבצע את החיבור לפי הסדר הנכון, מִתגלַה לעיניו צורה יפה, ציור יפה של חיה או מכונית או משהו. עכשיו, נניח שאתם רואים ציור שכזה אחרי שהילד חיבר את הנקודות, ואני אשאל אתכם מי צייר את התמונה - מה תגידו?
התגובה הראשונית שלכם אולי תהיה "הילד", בעיקר אם זה הילד שלכם ואתם קורנים מגאווה בילד הגאון שלכם. אבל מחשבה מעמיקה יותר תוביל אתכם להבין שמי שמיקם את הנקודות, מיספר אותם וכתב את ההוראות לפירוש הדף הוא זה שצייר את הציור. ובהחלט, אם תבקשו משניהם, ממי שהכין את הדף ומהילד, לצייר ציור על דף נקי, כנראה שממקם-הנקודות יצליח טוב יותר מהילד, שכן הוא זה שיודע איך לצייר. כל שהילד יודע לעשות הוא למתוח קו ישר בין שני נקודות, ואיך לספור מ-1 עד 20 לפי הסדר. עבור ילד בגיל 3 זה אכן אתגר ומאמץ - כל הכבוד לו על התוצאה! - אבל מי שמייחס לילד את היכולת לצייר חיות ומכוניות בשל ההצלחה לחבר בין הנקודות - האדם הזה מפספס את המהות של מה זו היצירתיות שנדרשת כדי לצייר.
אם זה המשל, אז כך גם בנמשל. שהרי אפשר לומר שהמחשב "למד" משהו "בעצמו" רק אם אנחנו נחליט לשכוח, במכוון, את ההיסטוריה. אז בואו ונזכיר לעצמנו אותה: אנחנו - בני אדם - סיפקנו למכונה את הדאטה, אחרי שאנחנו - בני אדם - תייגנו אותו, כפי שדיברנו בפרק השישי. ואנחנו - בני האדם - גם כתבנו את הקוד שהורה למערכת איך ללמוד: הדרכנו אותה אילו כלים סטטיסטיים להשתמש בהן כדי לחלץ תובנות סטטיסטיות מהדאטה, ואיך לבצע את תהליך הדדוקציה ולקודד את התובנות הללו אצלה במודל. כלומר, כל צעד כאן, ממש כל צעד, הוגדר במדוייק מראש על ידי בני אדם, והמכונה פשוט פועלת כפי שהורו לה, ולא שום דבר מעבר. היא אולי מקבלת ציון 100 בביצועים, אבל 0 בסולם החשיבה.
אם נקבל את כל מה שאמרנו עד כה, נראה שאין מנוס מן המסקנה שמחשבים אינם חושבים, ושלא משנה מה יהיה החידוש הבא שיצא מעמק הסיליקון לא נקבל AGI אמיתי. אלא שאם אנחנו כנים עם עצמנו, אנחנו חייבים לאתגר את הטיעון הזה בצורה מאד רצינית מתוך המציאות שסביבנו. אנחנו חייבים לשאול: איך אפשר לומר ש-AI זו פיקציה, שמחשבים חושבים זו פיקציה, כשאנחנו רואים כל יום דברים מדהימים חדשים שמחשבים מסוגלים לעשות, דברים שמתחרים ואף עוקפים בסיבוב את הגאונים הגדולים באנושות? במילים אחרות - אתה אולי יודע להתפלסף בצורה משכנעת, אלישע, אבל נראה שהמציאות חזקה מכל טיעון.
אני מודה שהשאלה הזו, האתגר הזה, גם כובש אותי לפעמים. זה הרי היופי במבחן טיורינג ודומיו: הוא ממנף את החוייה שלנו כבני אדם, את הממשק שלנו עם המכונה ועם התוצרים שלה, כדי לשכנע אותנו שהיא תבונית באופן בלתי-אמצעי. ובאמת, החוויה של עבודה עם GPT יכולה להיות מהפנטת לפעמים, וקשה להשתחרר מהכישוף שהיא מטילה עלינו ברמה החוויתית. הדרך להתיר את הכישוף היא אותה הדרך שבה אפשר להוכיח שליאור סושארד אינו מכשף: להסביר איך המחשבים עושים את מה שהם עושים, ללא שאנו נזקקים ל"תבלין הסודי" ושמו חשיבה.
אם נסתכל על ההתקדמות האנושית לאורך ההיסטוריה, אפשר לראות שאנו מנסים באופן קבוע לצמצם את הצורך שלנו בחשיבה כדי להתמודד עם אתגרי העולם ולהשיג את היעדים שלנו. חשיבה היא משאב יקר ונדיר, ולכן כשאנו יכולים לצמצם את כמות המאמץ המנטלי שצריך כדי לבצע משימה נתונה - אנחנו נעשה זאת. כדי לראות את אחד הדרכים שזה קורה בו, אני רוצה להתחיל משאלה חשבונית פשוטה. אני רוצה שתקחו רגע ותענו לי על השאלה הבאה: כמה זה 543 כפול מאה?
את השאלה הזו אתם יכולים לפתור לפחות בשתי צורות. צורה אחת היא לעשות הרבה תרגילי חיבור פשוטים, 543 ועוד 543 ועוד 543, כל פעם לחשב את התוצאה, ואז להמשיך לתרגיל החיבור הבא עד שתמצאו את התוצאה הסופית אחרי 100 פעמים. הצורה השניה היא פשוטה יותר: להוסיף שני אפסים בסוף המספר 543, ולקבל את התשובה הנכונה - 54 אלף ו-300, בדיוק.
אם הייתי צריך לנחש, הייתי אומר ש-100% מכם בחר בשיטה השניה. הסיבה שבחרתם בזה היא כיוון שזה הכי מהר וקל, ואת הטריק הזה למדתם מתישהו ביסודי, אולי כשלימדו אתכם את לוח הכפל, אז זה כבר ממש אצלכם בדם. אבל אם הייתי מבקש מכם להוכיח שזה מדוייק, שהטריק הזה עובד תמיד, האם הייתם יודעים לעשות את זה?
חלקכם כן, חלקכם לא. וגם מבין אלו שענו "כן", לא בטוח כמה זמן היה לוקח לכם לעלות על הטריק הזה בעצמכם אם לא הייתם מכירים אותו קודם לכן.
אולי נראה לכם שהטריק הזה ברור לגמרי, אז לאלו שרוצים אתגר טיפה יותר קשה, בואו ניקח טריק מוכר אחר - איך יודעים אם מספר מתחלק בשלוש? סוכמים את הספרות שלו ובודקים אם הסכום מתחלק בשלוש, נכון? גם כאן - טריק ידוע מהיסודי, קל מאד לביצוע. אבל האם אתם חושבים שהייתם עולים עליו לבד? האם אתם יודעים להוכיח אותו היום? מוזמנים לקחת קצת זמן ולנסות. אני מצרף בפרק הכתוב את ההוכחה שאני פיתחתי לטריק היפה הזה (זה לא חשוב לצרכי הבנת הפרק… סתם משתף)
מה שעולה מן הדוגמאות הללו הוא העובדה המעניינת הבאה: שאפשר לקחת בעיה שדורשת חשיבה, ולמצוא טריקים וקיצורי דרך שמאפשרים לפתור אותה בעזרת הרבה פחות חשיבה. ל"שינמוך" הזה של האתגר יש גם השלכות בשטח על מי יכול לפתור את הבעיות הללו, ובאיזו מהירות: לפני שהטריק של הוספת האפסים הפך לידע כללי, כנראה שבחורה עם תואר שני במתמטיקה היתה מצליחה לחשב 543 כפול 100 מהר יותר מבחורה שלא סיימה בגרות. עכשיו שהטריק הפך לידע כללי, יש לשתיהן סיכוי שווה לענות ראשונים, וגם ברור ששתיהן ישתמשו בטריק ולא יבזבזו זמן על חישוב מאה פעולות חיבור. כלומר, קרה כאן דבר מעניין: הכפלה ב-100 הפכה לדבר שאפשר לעשות בלי לחשוב, אלא פשוט כריפלקס מכני במוח: להוסיף שני אפסים ולראות מה יצא. והשינוי במשימה הזו קרה בזכות חשיבה, מתישהו בעבר הרחוק מאד, כשמתמטיקאי כלשהו חשב הרבה, עלה על הטריק הזה, ושיתף אותו עם העולם. זה דומה קצת שוב למשל שלנו מוקדם יותר, על הילד שמצייר על ידי חיבור נקודות שמישהו אחר מיקם עבורו - אני אתן לכם לעשות את הקישור לבד.
עכשיו, בואו נקשר את הדברים לנושא שלנו. מה שאמרנו בסיפור הפשוט של הכפלה במאה נכון באותה המידה ביחס לכל תוכנת מחשב שאי פעם נכתבה בהיסטוריה של המחשבים. תוכנת מחשב היא, כפי שאמרנו, סדרת הוראות שמכוונת להשגת תוצאות מסויימות, ושאפשר לבצע אותן באופן דטרמיניסטי ומכני. אמנם תוכנות נכתבות בשפת מחשב, אבל בסוף מדובר בסדרת הוראות, וגם אני ואתם יכולים לבצע אותן במקום המחשב באופן ידני. נניח, אם בא למישהו מכם לשחק שח ברמה גבוהה, הנה מרשם עם הצלחה מובטחת: לפני כל מהלך שלכם, קחו תוכנה למשחק שח-מט ברמה עולמית; קראו את הפקודות שבקוד שלה; בצעו אותן לפי הסדר; ובסוף תקבלו את המהלך הבא שמומלץ לעשות. לא צריך להפעיל כאן מחשב, אלא רק לפעול לפי ההוראות. המהלכים שתעשו ישקפו בדיוק את המהלכים שהמחשב עם התוכנה הזו היה עושה, בלי שום שינוי או סטייה. רמת המשחק שלכם, אני מבטיח, תעלה פלאים, וזאת בלי שהפעלתם גרם אחד של חשיבה על המשחק.
אלא מה? יש סיבה למה אף אחד מאיתנו לא עושה את הטריק הזה, וזו אותה הסיבה שבגללה אנחנו לא עושים את זה עם אף תוכנת מחשב. כי סדרת ההוראות הזו היא מאאאד ארוכה, מאאאד משעממת, וחשוב לעשות אותה במדוייק ולא לטעות בדרך. מאד יכול להיות שתוכנת השח שדיברתי עליה תדרוש כמה מיליוני פעולות חשבון פשוט כדי לבצע מהלך בודד - נראה לכם שזה יהיה כיף או שווה להשקיע חודש שלם של חישובים, ללא שינה או הפסקת קפה, כדי לבצע מהלך אחד במשחק השח? כנראה שלא. מה שאנחנו היינו רוצים זה מכשיר, שיש לו את התכונות הבאות:
(א) הוא טוב בלבצע באופן מדוייק סדרת הוראות טכנית מדוקדקת.
(ב) הוא לא מתעייף או משתעמם מלעשות את הדברים הללו, גם אם צריך לעשות הרבה מהם ולאורך הרבה זמן רצוף.
(ג) ו-הוא מסוגל לבצע הוראות שכאלו ממש מהר.
אבל רגע - יש מכשיר שכזה, וקוראים לו - המחשב! ווואלה. איזה צירוף מקרים שיש לנו מכשיר בדיוק עם התכונות הללו. ושווה להדגיש כאן שוב, שהתכונות הללו לא מאפיינות תהליך חשיבה או מכשיר שיכול לחשוב. אפשר אולי אפילו לומר שהן מייצגות את ההיפך הגמור מְחָשיבה - תהליך של ציות עיוור ומֶכָני להוראות מבחוץ, ללא הטלת ספק. המחשב עושה הרבה דברים חשובים, שחוסכים לנו המון זמן ומאמץ, אבל דבר אחד לא כלול בהם: תרומה עצמאית משלו לפתרון הבעיה.
אם כן, אפשר לענות עכשיו על השאלה ששאלנו קודם: אם מחשבים אינם מסוגלים לחשוב, אלא רק לעשות את מה שאומרים להם, אז איך הם יכולים לעשות דברים מטורפים במורכבותם שרק יצורים תבוניים אמורים להיות מסוגלים לעשות? התשובה היא, שבני אדם חכמים, מתישהו בעבר, פיתחו שיטות מכניות לפתרון בעיות מורכבות, ובכך הסירו את הצורך בחשיבה כדי לבצע אותן. ומהרגע שהשיטות המכניות הללו באו לעולם, הן הפכו לדבר שמחשבים, שאינם מסוגלים לחשוב, יכולים לקחת עליו אחריות. מאותו הרגע אפשר לקודד את המכניקה הזו בקוד מחשב, ולתת למחשב לחסוך לנו זמן יקר ולחשב אותו במקומנו. ונראה לי שווה להביא כאן את הציטוט של דבריו של הלפרן בעניין, שמסכם זאת באופן יפה:
"דווקא משום שהמחשב אינו רשאי לסטות כמלוא הנימה מרצף המצבים המוקצים לו, ניתן להשתמש בו לביצוע אלגוריתמים ארוכים מאוד, המבצעים משימות החורגות בהרבה מיכולת האדם הבודד. וכיוון שהוא מתאים לכך, אנו מתחילים, באופן פרדוקסלי, לשמוע טענות שהמחשב חושב— זהו טיעון פרדוקסלי כיוון שהאיכות המיוחדת של המחשב היא בכך שהוא אינו חושב. מחשב הוא המכונה הראשונה שבנינו, שברור שאינה חושבת… המחשב נראה כמי שחושב בדיוק משום שאינו יכול "לחשוב בעצמו". זהו כלי הקיבול המושלם, וגם המֶבָצֶע המושלם, של המחשבה האנושית המשומרת – של המחשבה שנלכדה ו"הוקפאה" בצורת אלגוריתמי תוכנה."
אותו הפרדוקס שהלפרן מדבר עליו, הוא "אשליית הכישוף" שהזכרנו קודם, ועכשיו, לאור כל מה שעברנו יחד בפרק הזה, אנחנו יכולים גם להבין סוף סוף את מקור האשלייה. מה שאנו פוגשים כשאנו רואים את המחשב עושה דברים מתוחכמים הוא אכן תוצר של חשיבה. כשטיורינג ותומכיו אומרים שבני אדם מסוגלים לזהות אינטלגנציה כשהם נמצאים במגע איתה, הם במידה מסויימת צודקים. אלא שמה שהם מפספסים הוא בזיהוי האינטלגנציה שהם נמצאים איתה במגע. כפי שאמר הלפרן בציטוט שבדיוק הבאתי, המחשב הוא "כלי הקיבול המושלם, וגם המֶבָצֶע המושלם, של המחשבה האנושית המשומרת". לא המחשב הוא תבוני אלא בני האדם שתכנתו אותו, ועם התבונה שלהם אנחנו נפגשים כשאנו משתמשים ב-GPT ודומיו.
נכון זה מגניב? אני אישית ממש אהבתי את התיאור הזה, כי הוא מצליח לחבר את כל חלקי הפאזל באופן שגם מקורקע באופנים שבהם מחשבים עובדים בפועל, וגם מסביר את החוויה שלנו. התיאור הזה מאפשר לי, אישית, ליהנות ממופע החושים של מוצרי ה-AI החדשים שיוצאים כל הזמן, ועדיין לזכור בסוף החוויה שמדובר סה"כ בטריקים מגניבים שממנפים תובנות אנושיות עמוקות שהצלחנו לקודד בתוכנה, ולא מעבר. וכפי שתראו, כשנגיע לדבר על התחזיות האפוקליפטיות של אנשים כמו יובל נוח הררי, העוגנים החזקים שפיתחנו בפרק הזה יהיו לנו לעזר רב, להבין אילו סכנות ה-AI באמת מציב בפנינו ואילו לא.
אז, זהו להיום. יש עוד הרבה להרחיב בנושא הזה. הלפרן עצמו מעלה נקודות נוספות שמאירות אור חדש על חלק מהתחושות שלנו שיש ב-AI תבונה אמיתית, ואני מקווה לשתף אותן בפרקים הבאים. בינתיים, אני באמת ממליץ לכם לקרוא את הדברים אצלו, ומי שלא זורם עם אנגלית, שיתן את הטקסטים של המאמרים שלו לקלאוד או GPT שיתרגמו אותם. אני מקווה שהפרק הזה גם יתן לכם בסיס ראשוני חזק להבנת הגישה שלו, ויהפוך את הקריאה לזורמת.
בינתיים, אני רוצה להדגיש לסיום את הנקודות הקריטיות שעלו בפרק הזה: מחשבים יכולים לעשות רק מה שאומרים להם לעשות, ולכן בהכרח שהם לא חושבים. מה שהם כן עושים זה להיות כלי קיבול נייטרלי לקבלת החוכמה האנושית המרשימה. את אלו שאומרים שהמחשב חושב אפשר להמשיל, לפי מה שראינו היום, למי ששם בובת גרב על היד וגורם לה לדבר ולזוז, אבל שוכח שבעצם היד שמניעה את הבובה זו היד שלו, ומתחיל להאמין שיש לה חיים משלה. זה אולי מגניב להאמין בזה, אבל מעבר למגניבות אין כאן דבר מלבד אשליה עצמית.
באופן עמוק יותר, הטיעון שעלה כאן הוא שכדי לחשוב, צריך להיות ליישות החושבת עוד משהו: יכולת לבחור לאן לנווט את מאמצי האנאליזה והלוגיקה שלה. יכולת להחליט דברים כמו מה לנסות ומה לזרוק, מה לזכור ומה לשכוח. למחשבים אין את היכולת הזו, בעוד בני אדם עושים את זה כל הזמן, ועוד כשכל שיש להם בראש הוא מטרה מופשטת, תחושת בטן כלשהי, שגם אותה הם יכולים לבחור לשנות יום אחד. ואם אתם מרגישים שהדברים שאמרתי כרגע מתחילים קצת לזלוג מעבר למדע ולתוך עולם האמונות על מהות האדם והמטאפיזיקה, אתם לא טועים - בהמשך העונה אנחנו נראה שבעצם בשורש הדברים אי אפשר להתחמק מלגעת גם באספקטים הללו. אבל הפרק הזה היה עמוס מספיק, אני חושב, ולכן אשחרר אתכם בלי להעמיס עוד.
אז, ממש לסיום, אני רוצה לשאול: האם בזאת הוכחנו את מה שהיה להוכיח, ואין תקווה למכונות חושבות?
לא אלמן ישראל, ויש כאלו שחושבים שהדברים שאמרנו היום, שכולם על פני השטח נראים נכונים, אינם באמת סוף פסוק בנושא שלנו, ושעדיין יש דרך לייצר מכונות חושבות. חלקם סבורים שמחשבים שיכולים לשנות את הקוד של עצמם זה המפתח לבינה מלאכותית. אחרים שואבים השראה מהמוח האנושי וטוענים - גם המוח האנושי הוא מכונה דטרמיניסטית, ועובדה שהוא מסוגל לחשוב… ויש כמובן הצעות נוספות. אז, בפרקים הבאים אנחנו נסקור חלק מההצעות הללו, ונראה זוויות שונות שלהם, כמובן!
בפרק שלנו היום אני רוצה להמשיך את מה שהתחלנו בפרק הקודם, ולטעון שההישענות על דאטה אנושי הינה עקב האכילס של מודלי ה-AI העדכניים. זה כמובן די מצחיק לחשוב שאני שוקל להציג טיעון שכזה, שכן ההישענות הזו היא גם פריצת הדרך שאיפשרה, בעשור האחרון, למהפכת ה-AI המדהימה שסביבנו. אבל תזכרו את מה שראינו בשבוע שעבר: שבדאטה שבני אדם מייצרים יש בהחלט המון מידע שיכול לעזור לנו לבנות כלי AI חזקים, אבל יש מקום להטיל ספק בשאלה אם זה מספיק כדי להגיע לבינה מלאכותית שהיא באמת תבונית. כלומר, הטיעון שלי יהיה שאנו צריכים עוד מהפכות משמעותיות ב-AI לפני שנוכל להגיע לבינה מלאכותית אמיתית, וכל עוד אנחנו מתעקשים להישען בעיקר על אימון מתוך דאטה, אנחנו מפספסים משהו גדול מאד בסיפור.
כדי להדגים את זה, אני רוצה שנתחיל את המסע שלנו בניתוח מדוקדק יותר של מבחן טיורינג. כפי שאתם זוכרים, במבחן טיורינג יושב לו אדם - נניח, אישה - ומקבלת את תפקיד הבוחנת. היא מנהלת שיחה עם דמות כלשהי דרך צ'ט, ולאחר כמה דקות של שיחה מודיעה אם לדעתה מדובר במחשב או אדם. בחינה מדוקדקת של המבחן הזה תגלה משהו חשוב, שכבר רמזנו עליו בפרק השני של העונה: הגורם האנושי שבבדיקה הזו איננה חלק מהותי מהמבחן, אלא פשוט המדד הכי זמין לתבונה שיש בידינו. טיורינג השתמש במדד הזה של "האם המכונה הצליחה להתל בבוחנת" פשוט בשל הזמינות של המדד והאינטואטיביות שלו. המהות של מבחן טיורינג, לעומת זאת, זו הקביעה הבאה: שאם מכונה מפיקה פלט באיכות ששקולה לזה של פלט אנושי - אזי היישות הזו תיחשב תבונית.
שווה להדגיש את החלק הראשון - שבדיקה אנושית של איכות הטקסט איננה המרכיב המהותי במבחן טיורינג - כיוון שבניסויים שנעשו מתברר שיש כל מני בעיות בלסמוך על עצמנו. איך לומר זאת בעדינות - אנחנו לא כאלה טובים בלזהות תבונה אנושית כמו שאנחנו חושבים. קחו לדוגמה את התוצאות של מאמר שיצא לפני כשנה, שבו ניסו כמה חוקרים לבדוק עד כמהGPT גרסה 4 מצליח לעבור את מבחן טיורינג. בניסוי הכי מוצלח שלהם, הצליח GPT לשכנע 50% מאלו שדיברו איתו דרך צ'ט שהוא בעצם בן-אדם, שזו באמת הצלחה מרשימה ביותר (מערכות ישנות יותר שפותחו בשנות ה-60 של המאה הקודמת, כמו ELIZA, הגיעו להצלחה של 22% בלבד). אבל באותו מאמר גם הופיע פרט אחר, חשוב לא פחות, שקשור לתמונת המראה לתוצאה הזו: באותו ניסוי, כאשר מן העבר השני של הצ'אט היו בני אדם ולא מכונה, הבוחנים זיהו שמדובר בבני אדם רק ב-66% מהפעמים. במילים אחרות, בשליש מהפעמים שהם דיברו עם בני אדם, חשבו הבוחנים האנושיים שמדובר דווקא במכונה! אז נכון, בני האדם היו משכנעים יותר מה-50% של GPT, אבל התוצאה הזו כשלעצמה מטילה צל כבד על הקונספט הבסיסי של מבחן טיורינג: שבני אדם יודעים לזהות חשיבה אנושית דרך צ'ט אינטרנטי.
מדובר, כמובן, רק במאמר אחד, ואפשר לצלול לפרטיו ולאתגר אותו וכן הלאה. אבל הוא כן ממחיש שהמסנן האנושי איננו בהכרח מדוייק. ולכן, אפשר לשדרג את מבחן טיורינג אם נמצא דרכים אחרות לבחון את הפלט הזה, דרכים שאינם עוברות דרך הערכה אנושית סובייקטיבית. כך אולי נוכל לדייק יותר את ההערכות שלנו לגביי תבוניות המכונה. אבל - האם יש דרכים כאלו?
התשובה היא כמובן שכן, יש כל מני דרכים אלטרנטיביות לבדוק את זה, ואת חלקן אנחנו גם נפגוש בפרקים עתידיים, אם הכל יצא לפי התכנית. היום ספיצפית אנחנו נלך על משהו קצת יותר מגניב, שכמו האקדח של צ'כוב כבר ראיתם במערכה הראשונה: הניסוי הזה עם ג'פטו ופינוקיו! שימו לב:
* ג'פטו אומן על דאטה אנושי - זה נתון.
* פינוקיו מאומן על דאטה שג'פטו יצר. גם זה נתון.
* אז אם הפלט של ג'פטו הוא פלט ששקול לפלט אנושי - כלומר, אם ג'פטו עומד בדרישות מבחן טיורינג - פינוקיו אמור להיות שקול לג'פטו. כלומר, אם ג'פטו הצליח להטמיע אצלו בינה ששקולה לבינה אנושית, אז הביצועים של יציר כפיו, של פינוקיו, לא אמורים ליפול מאלו שלו עצמו. מש”ל.
אולי זה היה קצת קשה לעקוב, אז בואו תנו לי רגע להציג את העניין מזווית אחרת, עם דימו ויזואלי שבטח יהיה אינטואטיבי יותר לרובכם. נניח שיש לכם תמונה שצייר חבר שלכם, ומכונת צילום. אתם לוקחים את התמונה, מצלמים עותק שלה במכונה, ואז משווים בין התמונה המקורית לבין התמונה המצולמת. אם מכונת הצילום מושלמת, לא אמור להיות הבדל בין שתי התמונות. ואם יש הבדל בין שתי התמונות, זה אומר שמשהו בפעולה של מכונת הצילום אינו מדוייק.
זה המשל. הנמשל הוא שמכונת הצילום היא ה-AI שלנו, תמונת המקור היא דאטה האימון האנושי, והצילום שיוצא מהמכונה הוא הדאטה הסינתטי שה-AI מייצר בעצמו. עכשיו, אם יש לנו AI שתפס באופן מושלם את מהות השפה והשיח האנושיים, אז לא אמור להיות הבדל בין שני סוגי הדאטה. ולעומת זאת, אם יש הבדל ניכר בין התמונה המקורית לצילום, הרי שזה אומר שמשהו ב-AI שלנו איננו מדוייק; מכונת הצילום המתוחכמת שבנינו כנראה מכילה שריטות על הזכוכית שלה, שמעוותים את התוצרים שלה.
זהו המבחן שאני מציע לשדרוג מבחן טיורינג - בואו נקרא לו כאן "מבחן הזוויות". וכיוון שעכשיו הוא יושב לנו טוב בראש, שווה לשאול - מה קורה שמפעילים אותו?
ובכן, אני שמח לבשר לכם שאני לא היחיד שחשב עליו, ויש כמה מאמרים שיצאו בנושא. ב-2023, עמוק בתוך ההתלהבות מכל ה-GPT למיניהם, ישבו כמה חוקרים מאוניברסיטת רייס (RICE) שבטקסס, ועשו ניסוי דומה למה שתיארתי. הם לקחו מודלים מוכרים לייצור תמונות של פרצופים, וייצרו איתם הרבה תמונות של פרצופים. עם התמונות הללו הם אימנו מודל חדש, וייצרו איתו תמונות של פרצופים גם כן. וכך הלאה, דור אחרי דור של מודלים, כל דור מבוסס על תוצרי הדור הקודם. כלומר, הם בעצם עשו את "ניסוי ג'פטו ופינוקיו" שלנו שוב ושוב, בשרשרת, ובסוף התהליך הם בדקו מה האיכות של התמונות שכל דור ייצר.
לקראת הניסוי, אני מדמיין לעצמי מה חשבו החוקרים שהם יקבלו. הגירסה האופטימית היתה כנראה שהתמונות בכל דור יהיו טובות כמו הדורות שקדמו להם. הגירסה הפסימית יותר היתה שהתמונות החדשות יפלו באיכותן, בגלל חוסרים כלשהם במודל, אבל יתייצבו על רמה סבירה כלשהי. ובכן, מה אתם חושבים שקרה?
מה שקרה היה משהו אחר לחלוטין - גרסה פסימית על סטרואידים. בכל סבב שכזה, הביצועים של המודל הלכו והתדרדרו. התמונות שנוצרו לאחר כמה דורות הכילו עיוותים, פסים מוזרים שהחלו להופיע על הפרצופים שהמודל יצר:
בגרסאות שונות של הניסוי המגוון האנושי שהמודלים יצרו בכל דור חדש הלך והצטמצם, והתכנס לאוסף תמונות שנראות מאד דומות זו לזו - תמונות של גברים ונשים לבנים עם שער כהה ועיניים מערביות, שמביטים ישר למצלמה ומחייכים. שימו לב כאן לאוסף התמונות שהיה בהתחלה…
… לעומת אלו שנוצרו לאחר כמה דורות:
בכל אופן, לתופעה הזו קראו כותבי המאמר, model autophagy disorder, ראשי תיבות MAD, כלומר אי-שפיות. בכך הם ניסו לומר - כשמתמידים בתהליך הזה לאורך זמן, המודלים מתנהגים כאילו הם מאבדים את שפיותם. בהקשרים אחרים יש שקראו לתופעה הזו Hapsburg AI, בהתייחסות לשושלת האפסברג האוסטרית, שמרוב זה שהם התחתנו כל הזמן בתוך המשפחה הם דיללו את היציבות הגנטית שלהם, פיתחו כל מני מוטציות מוזרות ואולי הדבר אף גרם להכחדת השושלת.
שווה לשים לב במיוחד לעובדה שביצועי המודלים בניסוי נהיו גרועים יותר מדור אחד לשני. אם נניח היינו רואים שיש ירידה מג'פטו המקורי לפינוקיו בכמה אחוזים, אבל משם הדברים מתייצבים ושומרים על רמת איכות נתונה מדור אחד לדור הבא, זה היה סיפור אחר. במצב שכזה היינו אומרים - “אוקיי, הצלחנו לתפוס 80% מהיעד באופן מדוייק”. בפועל מה שהניסוי הזה המחיש הוא שה-AI לא באמת יודע להבחין בין עיקר לטפל ולסנן טעויות שהוא נחשף אליהם, ולכן כל דור של אימון רק מעצים את העיוותים שהוא ראה בדאטה של הדור הקודם. אם נחזור שוב למשל מכונת הצילום שלנו, נראה לי שברור לכולנו שיש הבדל בין מקרה שבו מכונת הצילום פשוט לא עובדת טוב עם דפים מקומטים, לבין מצב שבו יש שריטה על הזכוכית של מכונת הצילום עצמה. במקרה הראשון מדובר בבעיה מקומית ומוגבלת למקרים נדירים, שלא תפריע לרוב, בעוד במקרה השני זו בעיה שתשליך על כל הצילומים כולם, בלי יוצא מן הכלל. וזה מאד מטריד.
לצד המאמר הזה, יצא גם מאמר נוסף ביולי השנה שבחן את הנושא במודלים חדשים יותר, ושהכותרת שלו אומרת הכל: "AI models collapse when trained on recursively generated data". "מודלי AI קורסים כאשר הם מאומנים על דאטה שמיוצר רקורסיבית". אצלם הם הריצו את הניסוי גם על מודלים שמייצרים טקסטים, וגם שם התגלה שהטקסטים נהיים גרועים יותר ויותר ככל שהדורות מתקדמים. וגם כאן, ההתדרדרות הגיעה בשתי תצורות: לטקסטים יבשים מצד אחד, שזה מזכיר את הפרצופים האחידים מהמאמר הקודם, וטקסטים משובשים בטירוף מצד שני. בתמונה שתראו כאן, נתנו למכונה תחילת משפט וביקשו שהיא תשלים אותו - שימו לב איך כל דור (Gen0, Gen1…) מציג התדרדרות באיכות ההשלמה, עד שזה בסוף מגיע לג’יבריש מוחלט.
באותו מאמר, בנוסף לניסויים שהם הריצו, הם גם פיתחו באופן מסודר את התיאוריה האנאליטית שמסבירה למה זה קורה באופן עקבי במודלים הללו, ולמה למודלים שבנויים על למידה מתוך דאטה בלבד אין באמת דרך להימלט מן הגורל הזה. כדי להבין את מה שהם מביאים שם במאמר, אנחנו צריכים לקחת שתי דקות כדי להסביר משהו חשוב על האופן שבו המודלים הללו מייצרים טקסטים מגוונים, כשהכל עובד כמו שצריך. אז, שימו לרגע בצד את ניסוי ג'פטו ופינוקיו שלנו ופתחו סוגריים בראש - אני מבטיח שהם לא יהיו ארוכים במיוחד.
כשמישהו שואל אתכם "מה נשמע", אתם יכולים לענות בהמון צורות. "טוב, תודה". "ברוך השם סבבה". "עייפים אך מרוצים", וכן הלאה. אחד הדברים המגניבים במודלים הללו הוא שגם הם, כמו בני אדם, לא עונים תמיד את אותו הדבר כשמשוחחים איתם. איך זה קורה, אתם בוודאי תוהים? מאין מגיע הגיוון הזה? נכון, הטקסטים שהם רואים בזמן האימון מכילים את המגוון הזה, אבל איך הם בוחרים מה לומר?
ובכן, למודלים הללו יש מידע סטטיסטי על תבניות השפה שלנו, ויודעים לומר איזו תגובה היא שכיחה ומקובלת, ואיזו נדירה ויוצאת דופן. כדי לייצר שיח טבעי, המודלים הללו בוחרים תבניות באופן אקראי, ומשתמשים בסטטיסטיקה על השפה כדי לבחור אופציה סבירה מבחינת ההקשר של השיחה. אז, אם נדמיין עקומת פעמון של התגובות המקובלות ל"מה נשמע", רוב הפעמים המודל יגיב באופן שנמצא במרכז הכובד של העקומה, ורק במקרים מאד נדירים הוא ישוטט לו בקצוות העקומה, ויתן פתאום תגובה לא צפוייה ממש ומפתיעה. האמת, שווה לציין כאן שלרוב המודלים הללו יש פרמטר מיוחד ששולט בהתנהגות הזו. קוראים לו בשם "טמפרטורה". כמו שאטומים זזים מהר יותר ורחוק יותר כשמגדילים את הטמפרטורה סביבם, כך גם המודל נע באופן קיצוני יותר כאשר מגבירים את הטמפרטורה שלו. במילים אחרות, ככל שמגדילים את אותה "טמפרטורה", אנחנו בעצם מעודדים אותו לשוטט באזורים הנדירים יותר של העקומה ולהגיב בצורה מפתיעה יותר, בעוד שככל שמנמיכים את פרמטר הטמפרטורה המודל יצמד למוכר, במרכז עקומת הפעמון.
אז, אלו הסוגריים, אתם יכולים לסגור אותם עכשיו, ואנחנו חוזרים לאותו מאמר. מה שכותבי המאמר הסבירו שם באופן אלגנטי היה שכשאנו מבקשים מג'פטו לייצר לנו דאטה לאימון של פינוקיו, אנחנו מוצאים את עצמנו תקועים בין הפטיש לסדן בכל הקשור לכיוון השיטוט שלו בעקומת הפעמון שלנו. נניח שאנחנו רוצים לבקש ממחולל התמונות שלנו שייצר לנו תמונות מייצגות של פרצופים, ואנחנו יודעים שלרוב האנשים בעולם אין צלקות על הפנים. אז אם נאמץ מדיניות שהולכת על בטוח, ונצמדת למרכז העקומה, נקבל אחלה תמונות, אבל נגרום לכך שבאימון של פינוקיו לא יהיו בכלל פרצופים עם צלקות. זהו הפטיש: אם אנחנו ניצמדים למה שמוכר ושכיח, אנחנו מתחילים לאבד את קצוות הפעמון, ובעצם למחוק ייצוגים של המציאות שמופיעים רק לעיתים רחוקות.
אולי תגידו - טוב, אז תדגום את הקצוות גם. נשמע סביר האמת. אלא שכאן מגיע הסדן. קצוות העקומה הם גם המקומות שבהם יש לנו פחות דאטה, ובאופן ניכר - הרי זה מה שהופך אותם לאירועים נדירים. באזורים הללו, המודל צריך למלא הרבה חורים, לנסות לנחש איך למקם את הדאטה הזה בהקשר הרחב יותר של העולם הפנימי שהוא בונה. דוגמה יחסית קלילה יכולה להיות שכנראה שיש גם פרצופים באינטרנט של אנשים שצבעו את פניהם לקראת משחק כדורגל בצבע ירוק. האם המודל צריך להסיק שיש אנשים עם פרצופים ירוקים בעולם, ולתת לזה ייצוג כמו לאנשים ממוצא אתני מסויים כשהוא מייצר פרצופים על פי בקשת המשתמש?
וזו דוגמה קלילה, כמו שאמרתי. האזורים הנדירים באמת הם האזורים שכמעט אין לנו שום דבר שם, ואם נייצר תמונות מהקצוות הרחוקים וניתן אותן בזמן האימון של פינוקיו, אנחנו בעצם מכניסים לו רעש. לפינוקיו אין שום דרך לדעת שאסור לו להסתמך עליהם - הרי זה דאטה כמו כל דאטה, ANYTHING GOES.
כדי להדגים את זה, לקראת הפרק ביקשתי ממערכות שכאלו לצייר את הציור הבא: "חתול שותה שמנת בקשית תוך כדי רכיבה על אופנוע הארלי-דייוידסון על ראש הר האוורסט, כשהוא חושב על פוליטיקה ומגרד לעצמו באוזן". שילוב שכזה הוא שילוב נדיר, וגם לא ברור איך יש לצייר אותו. והנה, זו הצורה שבה GROK של אילון מאסק צייר את זה:
ציור חביב, אבל החתול לא מגרד באוזן, האופנוע שלו איננו הארלי דיווידסון, ואין לנו מושג על מה הוא חושב. ועוד דוגמה - ככה GPT צייר את זה:
בנוסף לבעיות פיזיקליות (ראיתם איך הכוס מרחפת באויר?), מאד אהבתי איך GPT מנסה לייצג איך החתול חושב על פוליטיקה - בועת חשיבה מעל הראש של החתול, בתוך הבועה מאזניים, ועל המאזניים… מה בדיוק? שני גושים חסרי צורה. בנוסף, אל תפספסו את המעמד שנראה כאילו נועד לנאומים של פוליטיקאים, ועליו סימון עגול בצבעים אמריקאים של כחול-לבן-אדום, שיושב על הגלגל האחורי. שמעו - זה מאד מקורי אבל לא משכנע.
ועכשיו, דמיינו מה יקרה אם ניתן את התמונות הללו לפינוקיו ומספרים לו שכך נראית חשיבה על פוליטיקה… נראה לי ברור איז זה היה מתחיל להזיז את המחט לכיוונים הזויים , מה שרק היה מתעצם עוד יותר בהמשך, בדורות הבאים.
אז, זו הבעיה, הפטיש והסדן. לכל כיוון יש חסרונות. מה עושים כדי להתמודד עם הבעיה הזו? כותבי שני המאמרים מסבירים שאין ברירה, ויש רק דרך מוצא אחת שהם רואים מהברוך הזה: חייבים כל הזמן גם להזריק דאטה אנושי "מקורי" לדאטה שמאמנים איתו את פינוקיו, כדי לייצב את המודל החדש. באופן הזה אנחנו מקבלים דאטה מהקצוות שהוא אמין - נניח, תמונות של אנשים אמיתיים עם פרצופים אמיתיים שיש בהם צלקות אמיתיות, ולא רק מה שה-AI מדמיין שנראה כמו צלקת. הם מקדישים חלק מן המאמרים לדיון על כמות הדאטה הנדרשת מהסוג הזה, כלומר מה האיזון הנכון בין דאטה אנושי לסינתטי שיכול לשמר את השפיות של המודלים בין דור אחד לבא.
אוקיי. אז זהו "מבחן הזוויות", וזכיתם כאן לטעום קצת מהמאמרים העדכניים בתחום. ועכשיו, בואו ניקח כמה דקות כדי לעכל את כל זה, ולהבין מה כל זה בעצם אומר? לדברים שראינו עכשיו יש גם השלכות פרקטיות, וגם השלכות רעיוניות סביב השאלה של העונה שלנו. בואו נתחיל עם הפרקטיקה, ולאחריה נעבור להשלכות העמוקות יותר.
ההשלכה הפרקטית הראשונה של מה שראינו כאן היא המשך של מה שראינו בשבוע שעבר: שלעולם לא נוכל להפסיק להסתמך על בני אדם כדי לייצר לנו דאטה. בני אדם יצטרכו להמשיך לתייג תמונות וטקסטים ווידאו, וגם לייצר לנו תמונות, טקסטים וסרטים חדשים. הדברים כל כך ברורים שזה מוביל לכתבות קצת מצחיקות. כך לדוגמה נכתב באתר venturebeat שדיווח על הממצאים הללו: "בעתיד מלא בכלי AI גנרטיביים, תוכן שיוצר על ידי בני אדם יהיה יקר ערך עוד יותר מאשר היום — אם רק כמקור נתונים טהור לאימון AI.". שימו לב איך היוצרות מתהפכים: במקום שבני האדם ומה שטוב להם יהיה העיקר, הכותבים מדברים על כך שמבעד לעדשה של "בואו ניטיב עם המודלים שלנו" נצטרך לעודד אנשים להמשיך לייצר בעצמם תוכן, כדי שה-AI יהיה איכותי. די הזוי, לדעתי.
ההשלכה הפרקטית השניה, שקשורה לראשונה, גם היא עולה באותו מאמר, והיא הבעיה שיש עכשיו לכל מי שירצה לאמן מודלי AI חדשים על בסיס מה שיש באינטרט: שהרי, האינטרנט מתמלא כל הזמן בתוכן חדש, אבל אם בעבר כל התוכן הזה היה מיוצר על ידי בני אדם, ככל שיש יותר זמינות ל-GPT ודומיו, אז אחוזים ניכרים מהתוכן שיש באינטרנט נוצרים עכשיו על ידי מכונות, לא בני אדם. ממילא, הדאטה החדש שיאמנו עליו יהיו "פגום" בכך שהוא סינטטי מדי, והתופעה שעליה הזהירו כאן תתחיל לקרות: המודלים יתחילו לקרוס ולהיות לא רלוונטים. העולם עכשיו שואל את עצמו - איך נצליח להפריד בין דאטה מקורי-אנושי לבין דאטה "פייק"? הרי אנחנו חייבים את הדאטה האנושי הטהור כדי לאמן מודלים טובים! ולָעולם אין פתרון עדיין, שכן כל הקטע של המודלים הללו הוא שהם מצליחים לייצר פייקים אמינים בעיניים אנושיות… אז הבעיה הזו עדיין לא פתורה, ונראה בשנים הקרובות איך יתמודדו איתה.
אז אלו שתיים מהבעיות הפרקטיות המרכזיות, ועכשיו, לצד הרעיוני. וכאן יש המווון מה לומר, ואני אבחר ארבע עיקריות, בעיניי.
דבר ראשון, זה לחזור ולראות איך המאמרים הללו תומכים במה שאמרנו: המודלים אינם מייצגים את המציאות, אלא גרסה מפוקסלת ולא מדוייקת שלה. המציאות היא בעלת ריבוד אינסופי, ואפילו את מה שאנו יודעים היום אנחנו לא מצליחים לתפוס באף מודל באופן עמוק מספיק. המודל תמיד יהיה קירוב, ותו לא. וכמו אפקט הפרפר, שלפיו כנף פרפר שזזה היום יכולה לגרום לטורנדו בקצה השני של העולם בעוד כמה חודשים, הסטיות שיש בקירוב הזה מתעצמות בכל דור של אימון, אם לא נתקן אותן על ידי מידע אנושי אמיתי, אותנטי.
דבר שני, הוא התובנה ש"מבחן הזוויות" שלנו תופס עיוותים בתוצרי המודלים שמבחן טיורינג יכול הרבה פעמים לפספס. אז חשוב לשמור את הראש פתוח כשחושבים על מדדים לתבוניות. אולי צריך כמה מדדים ולא להסתפק בזה של טיורינג, עם כל זה שהוא מגניב ואינטואטיבי.
הדבר השלישי הוא מה שרמזתי אליו בתחילת הפרק: לשים לב שהבעיה שאנו רואים כאן היא בדיוק תולדה של הקונספט הכי שורשי של ה-AI בתקופה שלנו, שהכל זה עניין של מספיק דאטה. מה שמתברר לנו כאן בסיפור הזה הוא שאין בכך די. ברגע שהכל תלוי בכמויות הדאטה, אז הדברים הנדירים תמיד ימחקו מן התוצרים של המערכות הללו. דברים נדירים הם אולי נדירים, אבל הם חלק מהמציאות, וכשמתחילים למחוק חלקים מהמציאות כי אין לנו מספיק דאטה עליהם - הרי שהתוצר של המודלים מפסיק להיות שקול לזה האנושי. משהו צריך לעגן את המציאות שמופיעה באופן נדיר באותה עוצמה ויציבות של הדברים השכיחים, וזה דבר שאי אפשר לעשות ללא הבנה מראש של המציאות האמיתית, זו שמעבר לדאטה.
שווה להזכיר בשלב הזה שזה לא אומר שאין דרך לבנות מכשיר שיצליח במבחן טיורינג. אולי נזכיר כאן רק נקודה אחת למחשבה בעניין הזה: בני אדם לא עובדים כמו AI. הרי, ילדים מבינים מה זה חתול עם מספר דוגמאות קטן מאד. אף אחד מאיתנו לא ראה מיליוני תמונות של חתולים, אבל אנחנו עושים עבודה טובה יותר מה-AI בזיהוי שלהם רוב הזמן. כלומר, המוח האנושי עושה כאן משהו שונה ממה שהמערכות שבנינו עושות, אפילו אם הן משוכללות מאד. מה שזה אומר הוא שהמוח שלנו מכיל מערכות נוספות, משלימות לאלו שלומדות דברים מהדאטה הגולמי. ולכן, ההישענות היתירה על הדאטה היא מה שחושף את ה-AI לעקב האכילס שדיברנו עליו היום.
אז נראה, אם כן, שהפתרון לבעיות עולם ה-AI איננו באיסוף של דאטה נוסף, או לפחות לא בעיקר שם, אלא צריך משהו אחר: שינוי תשתיתי בגישה המחקרית של איך בונים AI, כדי להגיע למשהו חדש ועמיד בפני המגבלות הללו שחשפנו כאן בפרקים האחרונים.
והדבר הרביעי והאחרון להיום: לראות עד כמה “מבחן הזוויות” נשען על הרעיון של טיורינג, שאנחנו נחליט אם משהו הוא תבוני על פי התפוקה שלו. הרי יכול היה מישהו לבוא ולטעון - "טוב, כל מה שהצבעת עליו כאן בסיפור של ג’פטו ופינוקיו זו בעיה של דגימה. הפלט אולי חסר במשהו, אבל המוח של ה-AI, הדבר הזה שמסתתר בתוך הקופסה השחורה - הוא באמת חושב ותבוני! פשוט לא מצאנו את הדרך לגרום לו לדבר באופן שמשקף את המוח הזה כראוי". ובהחלט, אפשר להאמין שזה המצב, כל אחד לפי אמונתו. אבל כל הקטע של טיורינג היה לומר שלא מעניין אותנו איך נראה המנגנון הפנימי, כל עוד הוא מסוגל לייצר תפוקה כמו בני אדם. ולכן, כל עוד אי אפשר לייצר תפוקה ששקולה לזו האנושית, הרי שמבחן טיורינג בגרסת ה"זוויות" יוותר על כנו, ויחכה שמישהו ימצא דרך להוכיח שאכן הגענו למוח סינתטי אמיתי שם בפנים.
אז - זהו להיום! מהפרק הבא אנחנו נעמיק עוד יותר בשאלה של התבוניות של המערכות הללו, אבל עכשיו ממקום יותר עקרוני. כלומר, במקום להתמקד בצורה המיוחדת שבה הם מאומנים ומעוצבים, נשאל - האם יכולה בכלל להיות מכונה שכזו, שתחשוב כמו בני אדם? כפי שנראה, לאורך העשורים מאז שטיורינג הציע את ההצעה שלו, היו הרבה דיונים בנושא.
ובנוסף, עוד דבר שאנו ניאלץ להתמודד איתו ועד כה לא ממש עשינו: להסביר מה *באמת* קורה שם מתחת למכסה המנוע. כלומר, אם מה שיש שם הוא לא תבונה, אז… מה זה בדיוק? איך נכון לחשוב על התוכנה המתוחכמת הזו, באופן שגם יסביר את היכולות המטורפות שלה ובו זמנית יציב ליכולות הללו גבולות ברורים?
Discover shows related to אלישע והזוויות, based on actual content similarities. Explore podcasts with similar topics, themes, and formats, backed by real data.
