אתה נוהג ברכב, לפתע הולך רגל מתפרץ לכביש. נניח שניצבות בפניך שתי אפשרויות בלבד: האחת עצירת פתאום שמסכנת את חייך והשנייה פגיעה קשה בהולך הרגל. מה תעשו? לצורך העניין שלשמו התכנסנו התשובה שלכם לא רלבנטית. מה שחשוב הוא שאתם המחליטים. עכשיו נחשוב על סיטואציה זהה לחלוטין, רק שהפעם הרכב הנוסע הוא רכב אוטונומי (ללא נהג), עכשיו השאלה היא מה הרכב יחליט לעשות?
מסתבר שהתפתחות האינטליגנציה המלאכותית מחייבת שינוי גם בתפיסה של אחד מתחומי החשיבה העתיקים והמרכזיים בחיי האדם; האתיקה. המוסר. בדוגמא שהבאתי ההכרעה מופקעת מהאדם ומופנית לרכב עצמו. כלומר, כבר בשלב תכנות הרכב נדרש המתכנת לענות על שאלות אתיות הרות גורל. האתיקה, או הפילוסופיה של המוסר, עוסקת בשאלת המוסר האנושי ובמה ראוי ומה לא. על מנת להחליט בסוגיה מוסרית על האדם הפועל להיות בעל יכולת חשיבה ובעל יכולת קבלת החלטות מתוך רצון חופשי. אלא שההתפתחויות בתחום האינטליגנציה המלאכותית מחייבות יצירת ענף עיוני חדש - האתיקה הדיגיטלית.
^ ^ ^
האתיקה הדיגיטלית נוצרת כאשר השאלות האתיות הולכות ונשזרות לתוך הבניה והתכנות של מכשירים חכמים. אסימוב כותב בחוקי הרובוטיקה שלו ש ״לא יפגע רובוט באדם״. אבל המצב כיום הרבה יותר מורכב אפילו ממה שאסימוב חזה. מתכנתים יצטרכו להחליט באיזה אדם ראוי יותר לפגוע. אבל גם כאן הסיפור לא נעצר. האתגר העיקרי בעתיד הקרוב ממש הוא בתוכנות ״הלומדות מעצמן״. כאן יצטרכו מהנדסי התכנה להכין שדה דוגמאות נוסף ללימוד, השדה האתי.
^ ^ ^
ובאשר לנו, אנחנו מאבדים את האוטונומיה המוסרית והופכים פסיביים עוד יותר מול העולם הדיגיטלי ושבויים בידי המתכנתים מוסריים יותר או פחות. ד״ר אושי שהם קראוס מרצה בבית הספר לתקשורת במכללת ספיר, פילוסוף של העולם החדש