RANCANGAN PELATIHAN PARALEL JARINGAN SYARAF DEEP LEARNING BERBASIS MAP-REDUCE

Moh Edi Wibowo

Abstract


Jaringan saraf deep learning telah menjadi model pembelajar dengan unjuk kerja yang tinggi pada beragam persoalan pengenalan pola. Meskipun demikian, pelatihan model ini seringkali terkendala oleh keterbatasan memori serta oleh kecepatan pengolahan yang rendah ketika data pelatihan yang digunakan berukuran besar. Untuk menyelesaikan persoalan tersebut, penelitian ini mengusulkan suatu rancangan pelatihan paralel jaringan saraf deep learning berdasarkan kerangka kerja map-reduce pada klaster komputer. Map-reduce diadopsi sebagai kerangka kerja pelatihan paralel karena memiliki dukungan implementasi yang kuat dan beragam.


Full Text:

PDF

References


Sun, Y., Wang, X. & Tang, X., 2014. Deep learning face representation from predicting 10,000 classes. In: Proceedings of the IEEE computer society conference on computer vision and pattern recognition. pp. 1891–1898.

He, K. et al., 2015. Deep residual learning for image recognition. Arxiv.Org, 7, pp.171–180. Available at: http://arxiv.org/pdf/1512.03385v1.pdf.

LeCun, Y., Bengio, Y. & Hinton, G., 2015. Deep learning. Nature, 521, pp.436–444.

Mnih, V., 2013. Machine learning for aerial image labeling. Ph. D. Univeristy of Toronto.

Spencer, M., Eickholt, J. & Cheng, J., 2015. A deep learning network approach to ab initio protein secondary structure prediction. IEEE/ACM Transactions on Computational Biology and Bioinformatics, 12, pp.103–112.

Zhang, S. et al., 2016. A deep learning framework for modeling structural features of RNA-binding protein targets. Nucleic acids research, 44, p.e32.

Bottou, L., 2010. Large-scale machine learning with stochastic gradient descent. In: Proceedings of COMPSTAT’2010, pp.177 186.

Kingma, D. & Ba, J., 2014. Adam: A method for stochastic optimization. In: International conference on learning representations, pp.1–13.

Coates, A. et al., 2013. Deep learning with COTS HPC systems. In: Proceedings of the 30th international conference on machine Learning, pp.1337–1345.

Zhang, H. et al., 2015. Poseidon: A system architecture for efficient GPU-based deep learning on multiple machines. arXiv. Available at: http://arxiv.org/abs/1512.06216.


Refbacks

  • There are currently no refbacks.


Fakultas Sains dan Teknologi

UIN Sultan Syarif Kasim Riau

Jl. HR. Soebrantas KM 18 No. 155 Pekanbaru Riau Indonesia

Website: http://fst.uin-suska.ac.id

Email: sntiki@uin-suska.ac.id