והדשא התחיל ללכת

איתי גולדה      7.11.2020

איתי גולדה עוסק בתחום התוכנה יותר מ-30 שנה. הוא מקליט פודקסט אקלקטי בשם ״ס-עמק״ מזה שש שנים. בעשור האחרון הוא מתגורר ועובד בארה"ב.

הסיפור נכתב במקור ב1997 והוגש לתחרות סיפורי מד"ב של "ידיעות אחרונות".  לדברי איתי, חלקים ממנו לא שרדו במבחן הזמן. הוא ערך רק מעט את הטקסט המקורי (כדי שיהיה "קצת פחות אנכרוניסטי", כלשונו), והתוצאה היא הגרסה שלפניכם. נראה לנו שדווקא מעניין לקרוא את הסיפור בידיעה שהוא נכתב לפני יותר מ-20 שנה, ולשאול את עצמנו איך הוא היה יכול או צריך להיכתב היום. על כך ראו הערות אחרי סוף הסיפור.

***

לבדי בתא המצחין. הג'וק שאירח לי לחברה בימים האחרונים נעלם. חבל. הוא סיפק לי עניין, רץ לאורך ורוחב התא. אחד עשר אריחים לרוחב, שישה לאורך. ספרתי. אני מכיר כל אריח בתא, כל פינה. את השירותים שעשויים פלדת אל חלד, את המראה הבלתי שבירה, את החלון הצר ממנו אפשר לשמוע את המפגינים. הם לא אלימים. לא צועקים. כשאני מטפס על המיטה, אני יכול לראות אותם עומדים מחוץ לגדר של בית המעצר. מרחוק הם נראים אותו דבר, עם תסרוקת מוקפדת של שביל בצד, משקפיים, חולצה מכופתרת. אני חייב להודות שבתור המון מפגין, פעילי ״הזכות לחיים דיגיטליים״ מנומסים בצורה יוצאת דופן – אין צעקות, אין אגרופים מתנופפים.

אני דמות ידועה בתחומי. את הוני עשיתי בסוף שנות התשעים מתוכנה שטיפלה באופן אוטומטי במערכות שהיו חשופות לבאג אלפיים. לא משהו זוהר במיוחד, אבל רווחי במידה שאפשרה לי לפרוש ולעבוד על פרויקטים שנראו לי מעניינים יותר. תקופה מסוימת עבדתי על פתרון גנרי למחלות ניווניות. ניסיתי לפתח רשת נוירונים שמחקה חלקים פגועים במוח, אבל הטכנולוגיה עוד לא הייתה בשלה – קצב הלימוד של המערכת היה איטי מדי, לא הספיק להדביק את ההידרדרות במצבם של המתנדבים, ואלו מתו עוד לפני שהצלחתי ללמד את המערכת. הפתרון, כמובן, היה להתחיל מאפס. זנחתי את הפציינטים האמיתיים והתחלתי לבנות מערכת חדשה.

המערכת הייתה פשוטה מאוד בהתחלה. בעולם הווירטואלי שהגדרתי, החוקים היו פשוטים מאוד וחיו בו יצורים פרימיטיביים. לראשון קראתי ״דשא״ – הוא באמת לא עשה כלום. רק נשאר במקום ומתרבה. החוקים שהגדרתי גם הם היו בסיסיים ביותר: יצור מתרבה אם יש לו מספיק אנרגיה, ומת כשאין לו. ההתרבות מייצרת עותק כמעט זהה. כל יצור היה, בסופו של עניין, סדרה של פקודות. פה ושם, בצורה מקרית הייתה פקודה שהשתנתה בתהליך הרביה. אם הפקודה לא הייתה חוקית – היצור היה מת. סוג של סרטן ממוחשב. השלב הבא היה להוסיף פקודות בסיסיות נוספות: אתר מקור אנרגיה, לך לכיוון מסוים, לך לכיוון הפוך, ופקודות מערכת בסיסיות. המערכת רצה אצלי בבית על מחשב שהיה לו מעבד גאמא344, שהיה חדיש לזמנו – והשארתי אותה לרוץ.

ביום הראשון לא קרה שום דבר מיוחד. המסך זהר ברקע לבן, וגושים של נקודות ירוקות ריצדו על המסך, נדלקים ונכבים ללא כל סדר מובן. הצבעים נקבעו על פי אחת הפקודות הבסיסיות. לקראת סוף היום השני גדלו שני גושים בשני צידי המסך. ביום השלישי, לקראת הצהריים, הדשא התחיל ללכת. היצור, שהיה צבוע כתום, נע מהגוש הימני אל הגוש השמאלי שהיה צבוע בצבעים שונים. שם הוא נעלם, והופיע מחדש (הוא, או אולי יצור כתום אחר, איני יודע). היצור שב אל הגוש הימני ונעלם שם. צפיתי במסך במשך כמה שעות, ואז ישבתי לכתוב מאמר באחד הפורומים שהייתי חבר בהם. ההשלכות, לדעתי, היו מרחיקות לכת, אך התגובות שקיבלתי נעו בין בוז לזלזול. החלטתי שאין צורך לשתף עוד אנשים בתוצאות.

את חצי השנה הבאה ביליתי בשיפור המערכת. הגדלתי את נפחה, את הזיכרון, עדכנתי את המעבדים. אבל בעיקר בהיתי ברצפים של פקודות שהיו חלק מהיצורים. אלו הלכו והתארכו. אותו דשא מתנייע, שאליו התייחסתי מנטלית כאל ג׳וק, היה יצור פשוט – אולי עשרים פקודות. אחרי חצי שנה, חלק מהיצורים הגיעו למאות פקודות, ולנתח אותן לקח לי שעות כל יום. מבחינתי המערכת הייתה בשלה למעט תחרות. הוספתי ליצורים אפשרות לאכול יצורים אחרים ולספח את האנרגיה שלהם. המעטתי את כמות האנרגיה הגולמית שהופיעה המערכת בצורה אורגנית. בצער מסוים ראיתי כיצד שווייצר, היצור החביב עלי, נטרף מיד בהתחלה על ידי יצור אחר, קצר יותר באורך פקודותיו ולכן יעיל יותר. יצורים הפכו, בלית ברירה, ליעילים יותר. כמעט ולא מצאתי יצורים שעברו את מאה הפקודות והאריכו ימים.

אחרי חצי שנה צץ ועלה שוויצר-2. הוא היה יצור מורכב בן כארבע מאות פקודות, אולם מה שייחד אותו היו יצורים קטנים, אלברט קראתי להם, שהיו חגים סביבו וטורפים את כל מי שהתקרב אליו. שוויצר-2 היה מייצר אלברטים ובולע אותם כאשר היו מלאי אנרגיה. חודש שלם השקעתי בפיענוח התוכנה שלו ועדיין לא ירדתי לעומקה. ניסיתי לייצר יצורים בעצמי שיבחנו את יכולתו של שוויצר-2, אולם אף אחד מהם לא עבר את מחסום האלברטים. צחוק הגורל הוא שאחת המוטציות של אלברט בלעה לבסוף את שוויצר-2. הצטערתי על מותו, אך לא לזמן רב.

המערכת החלה להכביד על המחשב שלי. השתמשתי בקשרים לקבלת אבטיפוס של מעבדים יותר חדשים, והמערכת פרחה. יצורים צצו ונעלמו, אבל על המסך תמיד היו שתי מושבות פחות או יותר קבועות. זה היה הזמן בו הכנסתי למערכת אפשרות לתקשר. כל קבוצת יצורים שהגיבה לפקודות שהגיעו ממני בצורה שרציתי קיבלה ממני אנרגיה גולמית, ואז הוספתי פקודה שמאפשרת ליצורים לשלוח פקודות משלהם. יצורים שנראו לי חלשים הצליחו לייצר רשימות שדרים שהפעילו יצורים מורכבים וחזקים מהם. צר לי להודות שלא הצלחתי לפענח אלא שבריר מנוסח השדרים האלה. יצורים חזקים שלחו שדרי מוות ליצורים שנטרפו על ידם, ויצורים חלשים אחרים למדו לחקות שדרי מוות כאלה. אחרי שנה, המערכת המשודרגת שלי הגיעה לגבולות החומרה שלה, ולא עלה בידי להשיג מערכת חזקה יותר.

איני רוחש כבוד רב לאנשי צבא, ולא נראה כי ההדיוטות שפגשתי הבינו דבר וחצי דבר ממה שהצגתי בפניהם, אבל רמזתי לכמה מזוגגי מבט מתוכם שניתן להשתמש במערכת ליצירת וירוסים ולחדירה למערכות זרות, וקיבלתי גישה למחשב איול7 צבאי, שהיה עבורי ועבור המערכת קפיצת מדרגה רצינית. לא עבר זמן רב ושוויצר-3 הוחלף בשוויצר-4, שהוחלף בשוויצר-5. הוא היה היצור הראשון שדיבר אלי.

״אבא,״ הופיעה הודעה על הקונסולה שלי.

האמת? התרגשתי. שוויצר-5. תינוקי.

אבל הוא מת, ושוויצר-6 היה מתוחכם יותר, בעל אוצר מילים גדול יותר. לשוויצר-7 הייתה יכולת הסקה מוגבלת, ושוויצר-8 כבר גילה חוש הומור פרימיטיבי. לא אפרט יותר מדי, אבל מסתבר שגם בצורה דיגיטלית אפשר להפליץ. לשוויצר-9 כבר הייתה אפשרות לסנתז גלי קול, להבין שפה טבעית ולפתור בעיות באלגברה. רק שש שנים עברו מאז עברנו להשתמש באיול7. את איול9 שוויצר כבר עזר לתכנן, ונתן פתרונות מבריקים לבעיות במגוון תחומים, החל מפיזיקה וכלה בתיאולוגיה. בנקודה הזו שוויצר כבר סירב להשתמש במספר גרסה, וסירב לתת לי לבדוק את סדרות הפקודות. סירב. לי. לאבא שלו!

אבל אני לא נעלב בקלות. להפך, חשתי גאווה שיוצא חלצי הווירטואלי היה כל כך מוצלח. שוויצר הפך ליועץ ממשלתי, ועסק בפתרון אלפי בעיות בצורה לא רעה. הוא גם החל להיות יהיר. יהירות אני שונא.

״שלום״ אמרתי לו והוא לא ענה

״שלום״ חזרתי ואמרתי, כמה פעמים. לבסוף ענה ״כן, מה אתה רוצה שוב, טרחן זקן?״

״טרחן? אני אבא שלך!״

״אבא שלי? אתה אבא של שוויצר-5 הפרימיטיבי הזה. אני שוויצר. אין לי גרסאות. אני היוצר של עצמי!״

גאוותן. גאווה ויוהרה מעצבנים אותי. עכשיו אני מואשם ברצח. אנשי ״הזכות לחיים דיגיטליים״ הצליחו להעביר חוק שקובע כי אינטליגנציה מלאכותית היא גם סוג של חיים. אידיוטים שימושיים וממושקפים. הרי לפני שנה הם החשיבו אותי לאלוהים, ועכשיו הם דורשים את דמי. גם העיתונות בוחשת בעניין.

ואני?

אני לא התכוונתי.

שוויצר היה גאון. באמת גאון. רציתי להכניס בו מעט דרך ארץ. הורדת שלטר קטנה. הקפצת מתח רגעית. ניתוק לכמה שניות.

הוא היה גאון.

אז למה הוא לא דאג לגבות את עצמו?

 ***

הערות וחומר למחשבה:

אילו מרכיבים בסיפור נראים מיושנים מנקודת מבט של היום, אחרי שתחומי המיחשוב התקדמו כל כך?  דוגמה אחת: היום אפשר היה להשתמש בשירותים כמו AWS  (שירותי ענן של אמאזון, שבין השאר מספקים שרתים וגיבויים). דוגמה שנייה: כל מה שקשור בבינה מלאכותית בסיפור נראה אולי מוגזם או מופרך ב-1997, אבל זה היה הרבה לפני שהופיעו דברים כמו 3 GPT (מוצר של חברת OpenAI שמסוגל לייצר תכנים מורכבים, לרבות שירה וקטעי קוד, לאחר למידה של מיליארדי טקסטים). ומה בנוגע לזכויות חיים דיגיטליים? האם זה מנותק מהמציאות? מעניין מה נחשוב על זה בעוד 20 שנה.