בועז ארד ספטמבר 30, 2022 תגובות 0

האם המחשבים מאיימים על האנושות?
מאת: יניב וייסמן

השאלה המהלכת אימים על האנושות מאז שפרצה לחיינו מהפכת המחשוב, היא האם המכונות והמחשבים יחליפו את האנשים?

בסרטים רבים רואים את עליונות המכונות על פני האנושות. בסרטי שליחות קטלנית, רובוטים שולטים בעולם, ובסדרת סרטי המטריקס, בני אדם הם רק כלי משחק בידי מכונות. בסרט "אני, רובוט" רובוטים מקבלים פקודות ממכונת-על  להשתלט על כדור הארץ, ובספרי המדע הבדיוני, בני אדם הם העבדים של מכונות על.

יובל נח הררי, בספרו "ההיסטוריה של מחר", מתאר את האדם החדש העוטה רכיבי מחשוב וביולוגיה גם יחד כאדם-על. ההומו-סאפיינס הוא האדם של אתמול. הררי רואה באדם-על את האנושות החדשה.1

אילון מאסק טען שהתפתחות תחום ה-AI היא כמו פצצת גרעין לאנושות2, והמדען, סטיבן הוקינס הזהיר מסוף האנושות.3

הנטייה של מדעני מח ומחשב לראות במח האדם גוש בשר עם אלקטרונים, אינה שונה מהתפיסה של מחשב. שכן, המח המתכתי של מכונה המעביר פקודות באמצעות חשמל, פועל באופן זהה לחלוטין לגוש הבשר האנושי, לתפיסתם.

המייסדים של גוגל, בהם אחד מגאוני המחשוב, ריי קורצוול, בספריו, "עידן המכונות", "הסינגולריות מתקרבת – כאשר האנושות מתעלה על הביולוגיה", מובילים שנים רבות מאז שנוסדה החברה את פעילות החטיבה האחראית לתחום ה-AI – אינטליגנציה מלאכותית.

קורצוול מוביל את דת המכונה הלומדת בגוגל, וחטיבת Deep Mind של גוגל הגיעה להישגים גדולים כמו בתחום ריצוף חלבוני DNA.

אבל, הם כולם טועים. אנשים מבריקים וגאונים אשר שכחו את עקרונות המחשב ואת עקרונות הביולוגיה.

על כן, אתחיל מההתחלה.

אלן טיורינג, מראשוני מדעני המחשב, ואחד הגאונים בהיסטוריה של תחום זה, ישב עם חברו המדען, ג'ק גוד, ולימד אותו את המשחק גו – GO – שהוא משחק יפני עתיק, המאפשר מיליוני מהלכים. לימוד המשחק שימש את  טיורינג וגוד, לפיתוח החשיבה בנוגע להצפנת מידע – Cryptographic. הם היו שני המדענים המובילים בפיצוח מכונת הריגול הגרמנית – אניגמה.4

ג'ק גוד נפטר שבע שנים לפני שאלפא-גו מחשב העל של חברת גוגל, הצליח לראשונה לנצח שחקן אנושי במשחק גו. ההשראה לניצחון זה על בני אדם האיצה את תעשיית ה-AI בסין, והעניקה דחיפה ענקית לגוגל ולחברות המפתחות מכונות לומדות. 5

מהי מכונה לומדת אם לא מעבדים חזקים, לוחות אם, חיבורי רשת, כרטיסים ועוד. שעוני המעבדים אשר ירוצו במהירות שטרם נראתה, ויעבדו את המידע העצום ביעילות ובמהירות יותר מכל מח אנושי, לא?

אלא, שבהיבט הפיזיקלי, טרם נפתרה הבעיה שעליה עמד המדען ג'ון נוימן, על בסיס העיצוב הטכנולוגי שלו, כל ארכיטקטורת המחשבים עובדת עד היום. בעיה זו נקראת צוואר הבקבוק של נוימן6.

המעבד והזיכרון הם שני רכיבים נפרדים.

המעבד מצליח לעבד במהירות את המידע, אולם הזיכרון הממוקם לצידו, מעכב את עיבוד המידע וזאת בשל אופי פעולתם של שני הרכיבים הנפרדים. בעוד שמעבדים צמחו במהירותם ביותר מ-25% ביכולת העיבוד שלהם בעשורים האחרונים, הזיכרון לצד המעבד השתפר רק ב-7%, ולכן, המעבד תמיד ממתין לזיכרון בעיבוד המידע. כך נוצר צוואר בקבוק.7

נוימן עוד ב-1958 ציין במסמכיו, באופן אגבי שפעולת מח האדם היא ללא כל צוואר בקבוק, ומח האדם בעל יכולת צריכת אנרגיה נמוכה ממחשב. אפשר למשל להסתכל על מחשבי העל Deep-Mind של גוגל או ווטסון של IBM, הצורכים אנרגיה של מאות ג'יגה וואטס כמו עיר שלמה, לעומת המח האנושי הצורך עד 14 וואט בלבד, פחות מסוללה של שעון כיס.8

בעוד מכונה לומדת נדרשת לעבד ולקבל מידע מאתרי אחסון ומידע שונים ברחבי העולם, המח האנושי עובד ומלקט מידע מתוך עצמו בלבד, ללא חיבור לאתרי מוחות מרוחקים.

האירוניה היא שככל שיש יותר מידע, צווארי הבקבוק מתרבים, וכבר היום חוות שרתים אינן מסוגלות לספק עבור מוצרים בתחום ה-IOT מספיק מידע בזמן ותגובה מהירה. תחום מחשוב הענן הגיע לימיו האחרונים.

אחת מתופעות הלוואי של חוות שרתים היא האנרגיה הרבה המושקעת בהפעלתם, והחום האדיר שמופק בשל כמויות עצומות של מחשבים. החום היוצא מהמחשבים אינו מועיל לשום דבר.

לעומת זאת, גוף האדם מתעל את האנרגיה לפעולות רבות. כאשר החום או האנרגיה עולים, הגוף באמצעות פעולת הצינון בגוף, מקרר את טמפרטורת הגוף. הגוף אינו מחובר לאמצעי קירור מלבד אמצעי הקירור של עצמו.

דוגמה נוספת לבעיית עיבוד הנתונים של מכונה לעומת מח האדם היא הנהיגה. במהלך נהיגה התמונות הרבות ממלאות את העיניים והרעשים ההיקפים מציתים בנו כבני אדם תגובות. העיבוד של תמונה ורעש נעשה באופן אינטואיטיבי במח, בלי לחשוב על אותם מראות ורעשים.

עיבוד המידע במח נעשה ללא כל עיכוב או צוואר בקבוק. במהלך הנהיגה בני אדם מאזינים למוסיקה, מנהלים שיחה, נוהגים, שומרים על מרחק, מצייתים לחוקי התנועה, מאיצים או מאיטים את המהירות וכן הלאה. פעולות רבות נעשות ביחד ללא כל שהיה.

למחשב לעומת זאת, יידרש זמן לעבד את התמונות – כל קילומטר שווה ערך ל -1 ג'יגה של תמונה ורעשים. את התמונות והרעשים על המעבד לעבד ולחשב מבין כל אוקיינוס המידע, כיצד להגיב ומהן הפעולות הנדרשות.

שוב, בעיות פיזיקליות, מגבלות של תקשורת, זמן תגובה איטי, ופילוח מידע אינם מאפשרים לפתרונות מחשוב לספק מהימנות וזמני תגובה הזהים למח האנושי. זוהי אחת הסיבות העיקריות שרכבים אוטונומיים אינם נמצאים בשימוש, וחברות אשר השקיעו בתחום נטשו אותו מלבד גוגל שעדיין ממשיכה לנסות ולגשר על הפער.

אין לרכבים אוטונומיים יכולת עיבוד ממוחשבת המסוגלת להגיב לתנאי הדרך באופן שבו בני אדם מגיבים. המחשב ברכב שולח אותות למחשבים מרוחקים, בעוד שהמח האנושי פועל בתוך עצמו.

מחשבים בסופו של דבר הם בבסיסם מכונות העשויות מחומרים כמו סיליקון, לעומת מח האדם המורכב מפחמן, חומרים כימיקליים, ותרכובות נוספות המאפשרות להעביר ביעילות את מיליארדי הקשרים והמידע מצד אחד לצד שני, לעומת מחשב המוגבל מבחינה פיזיקלית, תקשורת, יכולת עיבוד ונוטה לבעיות חומרה ככל שתחום השבבים ממוזער.

אחת הבעיות האלקטרוניות של מזעור מחשבים היא החשש ממעבר של קוואנטים מצד אחד של הטרנזיסטור אל הצד השני, ובעיה חשמלית זו תורמת לקיצור ימי המעבד. לבעיה זו קוראים Quantum Tunneling, והיא תופעה ידועה במיוחד כאשר עולם המחשבים דורש מזעור מעבדים.9

המזעור נועד להפחית את צריכת האנרגיה, אולם, מגבלות פיזיקליות חוסמות את המשך מזעור המעבדים. המעבדים הגיעו לקצה גבול יכולת המזעור, וחוק מור אשר הוכיח את עצמו במשך כשלושה עשורים, שבכל 18 חודשים כמות הטרנזיסטורים על המעבד מוכפלת כבר מוטל בספק.

השוואה נוספת בין מורכבות מח האדם לתחום המחשבים.

כל המידע היום באינטרנט, בין אם אלו הם טלפונים סלולאריים, מחשבים, מערכות מחשוב גדולות או קטנות שוות ערך ל-1 זטה בייט. בשפת בני אדם המספר הוא 10 ו-21 אפסים אחריו. זוהי כמות המידע בעולם מכל הרשתות, המחשבים והחיבורים הקיימים.10

כמות החיבורים והקשרים במח אחד של אדם אחד שווים ל-1 זטה בייט. כל מיליארדי המחשבים והטלפונים החכמים בעולם שווים למח אנושי אחד. יש בעולם למעלה מ-7 מיליארד מוחות.

נראה כי ההבדלים מקבלים ביטוי גם ביכולת למפות מח אנושי. עד היום, הצליח המדע למפות רק מח של תולעת זעירה בשם נמטודה. לא מעבר  לה. פרוייקט מיפוי זה ארך כ-10 שנים.11

לתולעת נמטודה יש כ-300 ניורונים. כמות החיבורים של מח אדם בהשוואה לתולעת היא כ-100 מיליארד יותר פעמים מאשר תולעת זו. רק להמחשה, חלקיק רקמה מילימטר אחד של מח אנושי שווה ערך לכמות מידע של 14 פטה-בייט של תמונות. מיליארד תמונות מאלבום אחד מרקמה דקה.

אך, גם מיפוי המח אינו מבטיח שהתשובה לדרך שבה הוא מתפקד תתאפשר. שכן, בהשוואה למחשבים המופעלים בידי תוכנות שבני אדם פיתחו, קוד המקור להפעלת המח האנושי אינו ידוע.

מכונות אינן לומדות במובן שבני אדם לומדים. מכונות ניזונות מתוכניות שבני אדם מפתחים. אנשים לומדים בדרך שאינה ידועה למדע. מכונה לומדת באמצעות חשיבה בינארית. חשיבה שהיא דטרמינסטית. חשיבה קבועה.

בני אדם חושבים באופן כאוטי.

זוהי הסיבה שאת העתיד בני אדם אינם יכולים לצפות.

תיאוריית המידע מבטאת זאת היטב. המונח אנטרופיה מייצג את אי הסדר, על פי התיאוריה שפיתח קלוד אלוון שאנון, ב-194813  ככל שמידע מסוים הוא נדיר, תרומתו למערכת הוא רב יותר. האנטרופיה היא הכאוס של הטבע המארגן מחדש את הסדר באופן מפתיע ולא צפוי.

המושג העממי – לחשוב מחוץ לקופסה, הוא תיאור הנועד לעודד חשיבה לא צפויה – אנטרופית.

ההמצאות, ההברקות, החשיבה היחודית "מחוץ לקופסה", היא המפתח בהבדל בין חשיבה של מח אנושי למכונה.

בני אדם הם בעלי יכולת בחירה, לעומת מחשבים הנתונים לבחירתו של מתכנת באופן שבו הוא מגדיר אלגוריתם כזה או אחר.

מכונות לומדות, למשל כמו גוגל טרנסלייט נעדרות ההבנה של המשמעות של המילים.

למילים, לסגנון, להטיה אין משמעות עבור מחשב. מילים אסורות או מילים גסות. מילים חדות או מילים מחלישות, ולכולם עבור המכונה אין כל משמעות מלבד פעולות קלט ופלט. בעולם של בני אדם החיים והמוות ביד הלשון, ומילים נושאות משמעות. מילת עידוד או מילת זלזול עשויה ליצור התעלות או חשיבה שלילית.

ניצחון המכונה במשחק גו היפני על בני אדם צפוי שיקרה. עבור המכונה מדובר על חישוביות מהירה של סמלים ואותות. הניצחון של המכונה הושג לא משום שהמכונה חשבה עם עצמה, אלא, מפני שהיא נזקקה למערכות ממוחשבות של מחשבי על המתוכנתים על ידי אנשים כדי לנצח את המח האנושי.

בעוד ששחקן אנושי אחד ניצב מול המכונה, המכונה ניצבת עם צוות שלם מאחוריה ומערכות תומכות ברקע, באמצעות שימוש במאות ג'יגה וואט חשמל לעומת המח האנושי הצורך עד 14 וואט.

אם בני אדם היו פועלים כמו מחשבים, באופן בינארי, הרי שהחיים היו צפויים ואידיאולוגיות כמו סוציאליזם, דיקטטורה וקומוניזם היו מצליחות. אבל, מאחר ובני אדם פועלים באופן כאוטי ולא צפוי, לא ניתן באמת לנהל כלכלה מפוקחת כמו שלא ניתן להשליט על בני אדם סדר וארגון ממוחשב ללא תופעות לוואי של מרידות והתנגדות.

המח האנושי עוצב באמצעות האבולוציה במשך מיליארדי שנים, ומכיל בתוכו מלבד גירויים אלקטרוניים עולמות מסתוריים. מהו מוסר? מהי חמלה? מדוע המח האנושי מגיב למוסר? מה יש בחומר המסתורי הזה שגורם לבני אדם לגלות חמלה, סליחה, נדיבות לב ועוד? מהי אינטואיציה לדוגמה? תחושות רבות ואחרות מנפלאותיה  של החיבוריות בין הגוף, לנפש ולמחשבה. מסתורין שאין המדע מסוגל לנפק כל הסבר.

אינטליגנציה מלאכותית עשויה להיות הרחבה של האנושות. בכל יום מתפרסמים אלפי מחקרים מתקדמים בתחום הסרטן, ואינטלגנציה ממוחשבת עשויה לספק פתרונות מהירים ולסרוק את המאמרים היומיים באופן מהיר, כפי שאף בן אנוש לא מסוגל. אולם, את הסקת המסקנות ודרכי הפעולה בני אדם יחליטו, והמחשבים יספקו זרוע תמיכה אך לא תחליף.

כמו שחלפו חרדות הלודיטים מול מכונות הטוויה הראשונות כך גם יקרה לחרדות מן המחשבים והמכונות. עולם המחשוב המהיר לא יחליף את המח האנושי אלא ישמש כעזר. מובילי תסריטי האימה כמו גם אלו הבטוחים שאנו לפני איחוד ביולוגי-בינארי, עשויים להחליף את המדע החדש שלהם במציאות אחרת. צנועה יותר, ולתת כבוד גדול יותר לביולוגיה המכילה בתוכה יסודות וקוד המעצבים את החיים מיליארדי שנים.

מקורות למאמר מהפכת המחשוב:

  1. גודמן מיכה, הארץ, 08-05-2015, https://www.haaretz.co.il/literature/study/.premium-1.2627876
  2. אוסלנדר ויקי, כלכליסט, 21-08-2017, https://www.calcalist.co.il/internet/articles/0,7340,L-3719555,00.html
  3. Higgins Abigail, VOX, 16-10-2018, https://www.vox.com/future-perfect/2018/10/16/17978596/stephen-hawking-ai-climate-change-robots-future-universe-earth
  4. The Times, Professor Jack Good: mathematician and wartime codebreaker, 16.04.2009 https://www.thetimes.co.uk/article/professor-jack-good-mathematician-and-wartime-codebreaker-tn9722wjxzs
  5. Darrell Etherington, Google’s AlphaGo AI beats the world’s best human Go player, 23.05.2017, Tech-Crunch, https://techcrunch.com/2017/05/23/googles-alphago-ai-beats-the-worlds-best-human-go-player/
  6. ארכיטקטורת פון נוימן, ויקיפדיה, https://he.wikipedia.org/wiki/%D7%90%D7%A8%D7%9B%D7%99%D7%98%D7%A7%D7%98%D7%95%D7%A8
  7. %D7%AA_%D7%A4%D7%95%D7%9F_%D7%A0%D7%95%D7%99%D7%9E%D7%9F
  8. https://www.techopedia.com/definition/14630/von-neumann-bottleneck
  9. Ferris Jabr, Does Thinking Really Hard Burn More Calories, Scientific American, 18.06.2018

https://www.scientificamerican.com/article/thinking-hard-calories/

  1. Quantum Tunneling, Wikipedia, https://en.wikipedia.org/wiki/Quantum_tunnelling

KATRINA KRÄMER, Explainer: What is quantum tunnelling? , Chemistry World, 30.07.2020,

https://www.chemistryworld.com/news/explainer-what-is-quantum-tunnelling/4012210.article

  1. Kevin Bartley, Big Data Statistics, How much data is there in the world?, https://rivery.io/blog/big-data-statistics-how-much-data-is-there-in-the-world/
  2. Morgan Kelly, 3-D footage of nematode brains links neurons with motion and behavior, 30.12.2015, https://www.princeton.edu/news/2015/12/30/3-d-footage-nematode-brains-links-neurons-motion-and-behavior

 

  1. A Mathematical Theory of Communication, By C. E. SHANNON, Reprinted with corrections from The Bell System Technical Journal, Vol. 27, pp. 379–423, 623–656, July, October, 1948.

https://people.math.harvard.edu/~ctm/home/text/others/shannon/entropy/entropy.pdf

 

הוספת תגובה