You are here

Home » Content

Bilgi Kuramındaki Entropi Kavramıyla İlgili Farklı Matematiksel Modeller

Different Mathematical Models for Entropy in Information Theory

Journal Name:

  • Bilge International Journal of Science And Technology Research

Publication Year:

  • 2017

Key Words:

Keywords (Original Language):

Author NameUniversity of AuthorFaculty of Author
Abstract (2. Language): 
Entropy is a metric that measures statically irregularity and randomness in a given certain dataset. The calculated entropy value has a positive real number starting from 0. The entropy value is also directly proportional to the increase of the irregularity in the dataset. In numerous fields including statistics, mathematics, and information theory it has been used widely with an aggregated formula of sigma symbol, logarithm and probability in mathematics. In this study, from different perspectives some new formulas and inferences are proposed that gives the same entropy result. The same entropi results, on the experiments, have been taken over the UCI benchmark datasets.
Bookmark/Search this post with
Abstract (Original Language): 
Entropi, belirli bir veri kümesindeki düzensizliği ve dağınıklığı ölçen bir istatistiksel metriktir. Hesaplanan entropi değeri 0’dan başlayan pozitif bir reel değere sahiptir. Veri kümesindeki düzensizliğin artması ile doğru orantılı olarak entropi değeri de artmaktadır. İstatistik, matematik ve bilgi kuramı dâhil birçok alanda yaygın bir şekilde kullanılan entropi formülünde matematikteki toplam sembolü, logaritma ve olasılık hesaplamaları vardır. Bu çalışmada entropi formülüne farklı açılardan bakarak aynı sonucu veren yeni formüller ve çıkarımlar ile farklı matematiksel modeller türetilmiştir. UCI veri setleri üzerinde yapılan deneysel uygulamalarda da aynı entropi değerleri elde edilmiştir.
FULL TEXT (PDF): 
PDF icon arastirmax-bilgi-kuramindaki-entropi-kavramiyla-ilgili-farkli-matematiksel-modeller.pdf
  • 2
167
174
  • Turkish

REFERENCES

References: 

Anderson, D. R. (2008). Information Theory and Entropy (pp. 51-82). Springer, ISBN-13: 978-1441979698, New York.
Balian, R. (2004). Entropy, a protean concept. In Poincaré Seminar 2003 (pp. 119-144). Birkhäuser Basel.
Bulut, F. (2016a). Huffman Algoritmasıyla Kayıpsız Hızlı Metin Sıkıştırma. El-Cezeri Journal of Science and Engineering, 3(2), 287-296.
Bulut, F. (2016b). AdaBoost ile Kalp Krizi Risk Tespiti, Celal Bayar Üniversitesi Fen Bilimleri Dergi, 12(3), 459-472.
Cernekova, Z., Pitas, I., Nikou, C. (2006). Information theory-based shot cut/fade detection and video summarization. IEEE Transactions on circuits and systems for video technology, 16(1), 82-91.
Çakır, S. (2015). Bütünleşik Bulanık Shannon Entropi-Bulanık Veri Zarflama Analizi Yöntemiyle Teknoloji Firmalarında
Bilge International Journal of Science and Technology Research 2017, 1(2): 167-174
174
Etkinlik Ölçümü. Karadeniz Teknik Üniversitesi, Doktora Tezi.
Dehmer, M., Emmert-Streib, F., Chen, Z., Li, X., Shi, Y. (Eds.). (2016). Mathematical Foundations and Applications of Graph Entropy (Vol. 6). John Wiley & Sons.
El Gamal, A., Kim, Y. H. (2011). Network information theory. Cambridge University press.
Gray R. M., (1990). Entropy and information. In Entropy and Information Theory, Publisher: Springer, (pp. 21-55) New York, ISBN-13: 978-1441979698.
Lichman, M. (2018). UCI Machine Learning Repository [http://archive.ics.uci.edu/ml]. Irvine, CA: University of California, School of Information and Computer Science.
Mu, Y., Liu, X., Yang, Z., and Liu, X. (2017). A parallel C4. 5 decision tree algorithm based on MapReduce. Concurrency and Computation: Practice and Experience, 29(8).
Özkan, K. (2016). Application of Information Theory for an Entropic Gradient of Ecological Sites, Entropy, 18(10), 340.
Özkan, K. (2017). Doğanın Kuantum Analizi. Süleyman Demirel Üniversitesi, Orman Fakültesi Yayın No: 102, ISBN: 978-605-9454-08-7, Isparta, 148 s.
Rosser, J. B. (2016). Entropy and econophysics. The European Physical Journal Special Topics, 17(225), 3091-3104.
Salkind, N. J. (2016). Statistics for people who (think they) hate statistics. Sage Publications.
Shannon, C. E. (1949). Communication theory of secrecy systems. Bell Labs Technical Journal, 28(4), 656-715.
Srinivas, D. S., Kumar, M. A. (2013). Attribute and Information Gain Based Feature Selection Technique For Cluster Ensemble: Hybrid Majority Voting Based Variable Importance Measure. IJITR, 1(6), 607-610.
Toggerson, B., Nguyen, D. (2017). Physics 131: Forces, Energy and Entropy, Publisher: University of Massachusetts Amherst Libraries, Amherst, Massachusetts.
Tosun, S. (2015). Sınıflandırmada yapay sinir ağları ve karar ağaçları karşılaştırması: Öğrenci başarıları üzerine bir uygulama (Doctoral dissertation, Fen Bilimleri Enstitüsü), İTÜ.
Zhou, F., Maxisch, T., Ceder, G. (2006). Configurational electronic entropy and the phase diagram of mixed-valence oxides: the case of Li x FePO 4. Physical review letters, 97(15), 155704.

Thank you for copying data from http://www.arastirmax.com