Gary Marcus ยังไม่ไว้วางใจระบบ Deep Learning ซะทั้งหมด ในขณะที่ผู้เชี่ยวชาญ NYU เชื่อว่าเทคนิคของการสร้างความน่าเชื่อถือของ AI ขั้นสูง เขามองเรื่องความฉลาด อัจฉริยะของ AI แต่ในมุมของ Marcus มองว่าเรื่องการเรียนรู้สำคัญมากในการวิจัย AI ทั้งด้านเทคนิคและจริยธรรม ในแง่เทคนิคแล้ว Deep Learning เป็นเรื่องดี แต่การเรียนรู้ให้ฉลาดและมีไหวพริบในการตัดสินใจให้เท่ามนุษย์นั้นยังต้องการการพัฒนาอีกมาก จริงอยู่ว่ามันฉลาดในการจดจำภาพและคำสั่งเสียง แต่กับงานอื่นๆ นั้นยังไม่เข้าใจนัก โดยเฉพาะเรื่องความสัมพันธ์ของมนุษย์ โดยคิดว่า ความพัฒนาศักยภาพของ AI ให้มีความฉลาดมากขึ้น เรียนรู้ Deep Learning ซึ่งควรจะต้องทำควบคู่กับวิธีการอื่นๆ
ประเด็นคือ AI ยังไม่เข้าใจงานของมันอย่างถ่องแท้ ซึ่งอาจนำไปสู่ผลลัพธ์ที่นำมาซึ่งอันตรายได้ แม้แต่เรื่องเล็กๆ ที่เราคาดไม่ถึง ก็เกิดขึ้นมาแล้ว เช่นการตรวจสอบเสียงพูด Hate Speech ที่ล้มเหลว ระบบรับสมัครงานที่ไม่รัดกุม รวมไปถึงรถยนต์ขับเคลื่อนไร้คนขับที่มีการชนคนข้ามถนน หรือคนเดินเท้า ซึ่งนำมาสู่สาเหตุการเสียชีวิตของคนเดินเท้า การเรียนรู้ของ AI ยังมีจุดอ่อน Deep Learning ก็ยังไม่ฉลาดพอ เรื่องอื่นๆ AI ทำได้ แต่เรื่องจิตใจมนุษย์นั้นยังไม่ลึกซึ้ง
อย่างที่เรายกตัวอย่าง AI ยังต้องมีการเรียนรู้อีกมาก AI ดูเหมือนจะไม่มีความสามารถมากนัก โดยเฉพาะความเข้าใจในภาษาธรรมชาติของบทสนทนา และความช่วยเหลือทั่วไปในโลกเสมือนจริง หรือสิ่งต่างๆ เช่นหุ่นยนต์ที่อาจช่วยจัดของคุณให้เป็นระเบียบ หรือทำอาหารเย็น ก็ยังอยู่นอกเหนือจากที่ AI ทำได้ และรถยนต์ไร้คนขับปลอดภัยจริงหรือไม่ ดังนั้นข้อจำกัดของ AI ก็ยังมีอยู่
จากที่เราได้ยินมาว่า AI ดีแบบนั้น แบบนี้ แต่อันที่จริงแล้ว ก็อยากจะเห็น AI ฉลาดเข้ามาแทนมนุษย์ได้ ช่วยให้เราค้นพบสิ่งใหม่ ๆ ในวงการแพทย์ แต่เนื่องจากเรื่องชีววิทยามีความซับซ้อน นักวิทยาศาสตร์มีความเข้าใจเรื่องโมเลกุล ความมีปฏิสัมพันธ์ แต่ AI ยังไม่สามารถทำให้เครื่องจักรสร้างนวัตกรรมได้ในระดับนั้น AI ทั่วไป สามารถคิดได้ทันทีและแก้ไขปัญหาใหม่ด้วยตัวเอง AI ควรจะสามารถทำงานได้ เช่นเดียวกับการฝึกงานระดับปริญญาตรี และเริ่มทำงานภายในไม่กี่วัน เป็นเพราะพวกเขามีความเข้าใจเกี่ยวกับชีวิตการทำงาน การมีส่วนร่วมกับสิ่งต่างๆ รอบตัว
อย่างที่ Gary เขียนไว้ในหนังสือ Deep Learning ยังไม่สามารถทำให้ AI ฉลาดได้อย่างเต็มที่ เพราะขาดความเข้าใจอย่างลึกซึ้ง
ยกตัวอย่าง ความช่างสังเกตของมนุษย์ ถ้าเราเดินเข้าห้องในโรงแรม เราเข้าใจทันทีว่าถ้าผ้าห่มถูกเปลี่ยนที่วาง โทรทัศน์ หลุดออกจากผนัง เราจะเข้าใจทันทีว่าต้องเกิดอะไรขึ้นในห้องนี้แน่ๆ แต่เรายังไม่รู้ว่าเกิดอะไรขึ้น แต่นี่คือปฏิกิริยาปกติของมนุษย์
แต่สำหรับ AI แล้ว "ข้อมูล" ต้องเพียงพอในการวิเคราะห์ เช่น เครื่องเล่นเกม Atari ที่ DeepMind สร้างขึ้น จดจำไว้ว่าต้องเห็นพิกเซลบนหน้าจอ หากคุณมีข้อมูลให้ระบบตรวจสอบได้มากพอ ระบบก็จะเข้าใจ (ตามข้อมูลที่มี) ซึ่งแตกต่างจาก Deep Understanding หรือความเข้าใจอย่างลึกซึ้ง เพราะมันเหมือนกับการบวกเลข ซึ่งมีทางเลือกที่จำกัด
ท้ายที่สุดแล้ว เรื่องการเรียนรู้แบบมนุษย์นั้นต้องการการเรียนรู้อย่างลึกซึ้ง เข้าใจเรื่องการสื่อสารตอบโต้ โดยสิ่งที่คาดหวังมากที่สุดคือ AI ต้องไม่ผิดพลาดจนเป็นอันตรายกับมนุษย์ เราอยากให้ AI เก่งขึ้น ฉลาดขึ้น และไม่อยากให้ AI นำไปสู่ภาวะเสี่ยงและก่อให้เกิดอันตราย
