Michael Cohen อดีตทนายความของ Trump ยอมรับเมื่อเร็ว ๆ นี้ว่าอ้างถึงคดีเท็จที่เกิดจาก AI ในเอกสารของศาล เขาเข้าใจผิดว่า Bard ของ Google เป็น "เครื่องมือค้นหาขั้นสูง" และอ้างถึงเนื้อหาที่สร้างโดย AI โดยไม่มีการตรวจสอบยืนยัน เมื่อใช้ Bard เพื่อการวิจัยทางกฎหมาย โคเฮนอ้างว่าเขาไม่ได้ตั้งใจทำให้ศาลเข้าใจผิด แต่ขาดความเข้าใจเกี่ยวกับเทคโนโลยีทางกฎหมายของ AI เหตุการณ์นี้ไม่ใช่กรณีที่แยกได้ การอ้างอิงที่เป็นเท็จซึ่งสร้างโดย AI ที่คล้ายกันเคยปรากฏในเอกสารของศาลมาก่อน ซึ่งก่อให้เกิดความขัดแย้งอย่างกว้างขวาง และเน้นย้ำถึงความเสี่ยงและความท้าทายของการใช้เทคโนโลยี AI ในสาขากฎหมาย
Michael Cohen อดีตทนายความของ Trump ยอมรับในเอกสารของศาลว่าอ้างถึงคดีเท็จที่สร้างโดย AI ในการใช้ Bard ของ Google เพื่อทำการวิจัยทางกฎหมาย ในขณะเดียวกันก็ถือว่ามันเป็น "เครื่องมือค้นหาขั้นสูง" อย่างไม่เหมาะสม โคเฮนอ้างว่าเขาไม่ได้ตั้งใจทำให้ศาลเข้าใจผิด และมีความเข้าใจเทคโนโลยีทางกฎหมายของ AI ไม่เพียงพอ คำพูดเท็จที่คล้ายกันซึ่งสร้างโดย AI เคยปรากฏในเอกสารของศาลมาก่อน ทำให้เกิดความขัดแย้ง
เหตุการณ์ของโคเฮนเตือนเราอีกครั้งว่าเมื่อใช้เทคโนโลยี AI ในสาขากฎหมาย เราจำเป็นต้องประเมินความน่าเชื่อถือและความแม่นยำของเทคโนโลยีอย่างรอบคอบ และเสริมสร้างจริยธรรมและการกำกับดูแลเครื่องมือ AI การพึ่งพาเทคโนโลยี AI จะต้องอยู่บนพื้นฐานความเข้าใจอย่างถ่องแท้ถึงข้อจำกัดของมัน เพื่อหลีกเลี่ยงผลกระทบร้ายแรงที่เกิดจากการใช้งานในทางที่ผิด ในอนาคต การใช้ AI เพื่อช่วยการวิจัยทางกฎหมายให้ดีขึ้นโดยหลีกเลี่ยงความเสี่ยงที่อาจเกิดขึ้นจะกลายเป็นหัวข้อสำคัญในอนาคตได้อย่างไร