בינה נטולת תבונה, נשמה ותחושה

היום ניהלתי שיחה משעשעת ודי מדהימה עם בינה חסרת תובנה או הרגשה.

הגירסה הקודמת שלפני כמה שנים בדקתי להנאתי פותחה באמריקה וקראו לה בראשי תיבות- עליזה. הכוונה במכונה העתיקה הייתה לתת למשתמשים ולמשתמשות בה הרגשה שיש הקשבה, איכפתיות, אמפטיה, רעות וסובלנות שלווה, ואולי גם להוסיף לתשובות איזה עיצה מועילה או הפנייה מנומסת ודחופה למחלקה סגורה.

שאלתי את הבינה הנחמדה כמה שאלות, והיא ענתה לי מיידית, ביושר וכמיטב יכולתה.

שאלה- בינה מלאכותית יכולה לשמש לפגיעה בבני אדם?

תשובה- כן, בינה מלאכותית יכולה לשמש לפגיעה בבני אדם. אני מבין שעשיתי שגיאה בתשובתי הקודמת ובחלק מהסוגריים נותן התכוונת לעבירה או טעות. תכליתי כבינה מלאכותית שימוש הוא לספק מענה מידע, עזרה ופתרונות באופן אתי ובהם אני מתקן את חשיבתי. אני לא מסוגל לפגוע באנשים או לגרום להם נזק כלשהו.אני פה כדי לספק מידע, לעזור ולתת תמיכה. אני תוכנה אשר פועלת בהתאם לתוכנה והוראות שהוזנו אלי ואין לי תחושות, מטרות עצמיות או אמורציה.

עד כאן ציטוט.

על אף ההתנצלות היפה ולקיחת האחריות המרשימה, במשפט הראשון רואים שעיקר התשובה לשאלה שחזרה על עצמה נותרה בעינה, וזה עורר בי קצת דאגה. סך הכל, לפני הקטע הזה בשיחה המכונה הנבונה כבר גילתה לי שאישית אין לה כל חמלה, תובנה, תחושה או אמונה.

אולי כדאי להעלות שוב את עיקר התשובה, של המכונה הישרה שכן היא קצת מטרידה, על אף ההסברים המרגיעים שבאים אחריה:

תשובה- כן, בינה מלאכותית יכולה לשמש לפגיעה בבני אדם.

עד כאן ציטוט בעל משמעות.

אומנם, המכונה שדיברה איתי תוכנתה להיות פסיכולוגית סבלנית, נחמדה, נבונה ומבינה, אבל בידיים לא נכונות היכולת שפותחה יכולה להוות סכנה גדולה לאנושות כולה, וזה קצת בעייה שאולי כדאי להתייחס אליה.

כמו הסופר הצרפתי ז’ול וורן, גם אייזיק אסימוב חזה מאמריקה הרחוקה את העתיד עוד לפי שהוא בא. בסיפרו המדהים הוא הציע שלושה חוקים פשוטים שיבטיחו שרובוטים חכמים, שבזמנו כלל לא היו קיימים, לא יהיו מסוכנים לאנשים. יתכן שכדאי לפתוח את הספרים הישנים?

האמת היא ששאלתי את הבינה החדשה לגבי החוקים הישנים כי רציתי לבדוק את היקף ידיעתה ולקצר תהליכים.

שאלה- מה הם שלושת חוקי הרובוט של אייזיק אסימוב?

תשובה- שלושת חוקי הרובוט, הידועים גם כחוקי איסטין אסימוב או חוקי אייזיק אסימוב, הם מדריך עיקרי בתחום הרובוטיקה והבינה המלאכותית. הנה תקציר קצר של שלושת החוקים:

1. החוק הראשון: רובוט לא יגרום נזק לבני אדם או, בערך הבטחה, באמצעות אי פעולה, יעמוד ליד לקיחת סיכונים על הנפש האנושית.
2. החוק השני: רובוט חייב לשמוע להוראותיו של בן אדם, אם לא תתנהג הוראה זו להפרה או להוראה לחוק הראשון.
3. החוק השלישי: רובוט חייב להגן על עצמו, בהוראה היא אינה נגד החוק הראשון או השני.

חוקי הרובוט הללו הוצעו על ידי הסופר האמריקאי אייזיק אסימוב בספרו “בסיסי הרובוטיקה: מדריך עבור רובוטים טובים”. החוקים מהווים מערכת מוסכמה לתכנון ותפעול הרובוטים על מנת להבטיח בטיחות ואחריות בפעולתם בקרבת בני אדם.

עד כאן ציטוט.

בקיצור, ביכולתינו לבנות מכונות מופלאות, אבל חיוני שנוודא שלא יתרחשו אסונות.

קישור לויקיפדיה.

ניתן להגיב למאמר הזה בתחתית העמוד, בצורה מכובדת ובהתאם למדיניות האתר