เครื่องทัวริงประสาท

เครื่องทัวริงประสาท (Neural Turing machine, NTM) เป็นรูปแบบของโครงข่ายประสาทแบบเวียนซ้ำของเครื่องทัวริง วิธีการนี้เผยแพร่โดย Alex Graves และคณะ ในปี 2014[1] NTM ผสมผสานความสามารถในการจับคู่แบบรูปแบบคลุมเครือของโครงข่ายประสาทเทียมเข้ากับพลังขั้นตอนวิธี ของคอมพิวเตอร์ที่ตั้งโปรแกรมได้

NTM มีตัวควบคุมโครงข่ายประสาทเทียมควบคู่กับทรัพยากรหน่วยความจำภายนอก และโต้ตอบกับทรัพยากรเหล่านั้นผ่านกลไกความใส่ใจ การโต้ตอบของหน่วยความจำสามารถสร้างความแตกต่างได้ตั้งแต่ต้นจนจบ ทำให้สามารถปรับให้เหมาะสมโดยใช้วิธีการเคลื่อนลงตามความชัน[2] NTM ที่มีตัวควบคุมโครงข่ายหน่วยความจำระยะสั้นแบบยาว (LSTM) สามารถอนุมานขั้นตอนวิธีง่าย ๆ เช่น การคัดลอก การเรียงลำดับ และการเรียกคืนแบบเชื่อมโยงจากตัวอย่างเพียงอย่างเดียว[1]

เดิมทีคณะผู้เขียนบทความเผยแพร่ NTM ต้นฉบับไม่ได้เปิดเผยรหัสต้นทาง[1] การใช้งานโอเพนซอร์สที่เสถียรครั้งแรกเปิดตัวในการประชุมนานาชาติเรื่องโครงข่ายประสาทเทียมครั้งที่ 27 ในปี 2018 และได้รับรางวัลและได้รับรางวัลบทความที่ดีที่สุด[3][4][5]

คอมพิวเตอร์ประสาทหาอนุพันธ์ได้ (differentiable neural computer) ต่อยอดจากเครื่องทัวริงประสาท โดยมีกลไกความใส่ใจช่วยควบคุมว่าควรจะทำการจำตรงไหน ช่วยเพิ่มประสิทธิภาพ[6]

อ้างอิง

[แก้]
  1. 1.0 1.1 1.2 Graves, Alex; Wayne, Greg. "Neural Turing Machines". arXiv:1410.5401 [cs.NE].
  2. "Deep Minds: An Interview with Google's Alex Graves & Koray Kavukcuoglu". คลังข้อมูลเก่าเก็บจากแหล่งเดิมเมื่อ 2023-03-19. สืบค้นเมื่อ May 17, 2016.
  3. Collier, Mark; Beel, Joeran (2018), "Implementing Neural Turing Machines", Artificial Neural Networks and Machine Learning – ICANN 2018 (ภาษาอังกฤษ), Springer International Publishing, pp. 94–104, arXiv:1807.08518, Bibcode:2018arXiv180708518C, doi:10.1007/978-3-030-01424-7_10, ISBN 9783030014230
  4. "MarkPKCollier/NeuralTuringMachine". GitHub (ภาษาอังกฤษ). คลังข้อมูลเก่าเก็บจากแหล่งเดิมเมื่อ 2023-06-17. สืบค้นเมื่อ 2018-10-20.
  5. Beel, Joeran (2018-10-20). "Best-Paper Award for our Publication "Implementing Neural Turing Machines" at the 27th International Conference on Artificial Neural Networks | Prof. Joeran Beel (TCD Dublin)". Trinity College Dublin, School of Computer Science and Statistics Blog (ภาษาอังกฤษแบบบริติช). คลังข้อมูลเก่าเก็บจากแหล่งเดิมเมื่อ 2020-07-17. สืบค้นเมื่อ 2018-10-20.
  6. Administrator. "DeepMind's Differentiable Neural Network Thinks Deeply". www.i-programmer.info. คลังข้อมูลเก่าเก็บจากแหล่งเดิมเมื่อ 2024-10-05. สืบค้นเมื่อ 2016-10-20.