Teori maklumat: Perbezaan antara semakan

174 bait ditambah ,  1 tahun lalu
Rescuing 1 sources and tagging 0 as dead.) #IABot (v2.0.8
(Rescuing 1 sources and tagging 0 as dead.) #IABot (v2.0.8)
 
'''Teori maklumat''' ialah satu cabang dalam [[matematik gunaan]] dan [[kejuruteraan elektrik]] yang secara [[aksiom]]atik mentakrifkan konsep maklumat,<ref>[http://www.mast.queensu.ca/~math474/shannon1948.pdf C. E. Shannon «A Mathematical Theory of Communication» (Перевод в сборнике ''Шеннон К.'' «Работы по теории информации и кибернетике». — М.: ИЛ, 1963. — 830 с., С. 243-322)]</ref>sifat-sifatnya dan menetapkan had hubungan bagi operasi [[pemerosesan isyarat]] seperti [[mampatan data|pemampatan data]] dan pada operasi [[storan data komputer|menyimpan]] dan [[telekomunikasi|menghubungkan]] data. Sepertimana kebanyakan teori matematik, teori ini beroperasi dengan model matematik, dan bukan dengan objek fizikal nyata (sumber dan saluran komunikasi). Ia menggunakan sebahagian besar radas matematik dari [[teori kebarangkalian]] dan [[statistik]] matematik.
 
Teori maklumat telah dibangunkan oleh [[Claude E. Shannon]] dan sejak pengenalannya, aplikasinya berkembang ke dalam banyak bidang termasuklah penaabir [[statistik]], pemerosesan [[bahasa tabii]], [[kriptografi]] secara umum, [[rangkaian]] selain dari rangkaian komunikasi - seperti dalam [[neurobiologi]],<ref>F. Rieke, D. Warland, R Ruyter van Steveninck, W Bialek, Spikes: Exploring the Neural Code. The MIT press (1997).</ref>, [[evolusi]]<ref>cf. Huelsenbeck, J. P., F. Ronquist, R. Nielsen and J. P. Bollback (2001) Bayesian inference of phylogeny and its impact on evolutionary biology, ''Science'' '''294''':2310-2314</ref>, dan [[fungsi]]<ref>Rando Allikmets, Wyeth W. Wasserman, Amy Hutchinson, Philip Smallwood, Jeremy Nathans, Peter K. Rogan, [http://www.lecb.ncifcrf.gov/~toms/ Thomas D. Schneider], Michael Dean (1998) Organization of the ABCR gene: analysis of promoter and splice junction sequences, ''Gene'' '''215''':1, 111-122</ref> kod molekular, pemilihan model<ref>Burnham, K. P. and Anderson D. R. (2002) ''Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach, Second Edition'' (Springer Science, New York) ISBN 978-0-387-95364-9.</ref> dalam ekologi, fizik terma,<ref>Jaynes, E. T. (1957) [http://bayes.wustl.edu/ Information Theory and Statistical Mechanics], ''Phys. Rev.'' '''106''':620</ref> [[pengkomputeran kuantum]], pengesan ciplakan<ref>Charles H. Bennett, Ming Li, and Bin Ma (2003) [http://sciamdigital.com/index.cfm?fa=Products.ViewIssuePreview&ARTICLEID_CHAR=08B64096-0772-4904-9D48227D5C9FAC75 Chain Letters and Evolutionary Histories], ''Scientific American'' '''288''':6, 76-81</ref> dan lain-lain bentuk [[analisis data]].<ref>{{Cite web
{{Cite web
| author = David R. Anderson
| title = Some background on why people in the empirical sciences may want to better understand the information-theoretic methods
| url = http://aicanderson2.home.comcast.net/~aicanderson2/home.pdf
| format = pdf
| accessdate = 2010-06-23}}
| archive-date = 2011-07-23
</ref>
| archive-url = https://web.archive.org/web/20110723045720/http://aicanderson2.home.comcast.net/~aicanderson2/home.pdf
| url-status = dead
}}</ref>
 
Pengukur utama maklumat dikenali sebagai [[entropi]] yang biasanya diungkap dalam purata jumlah [[bit]] diperlukan untuk storan atau komunikasi. Entropi akan mengkuantiti ketakpastian yang terjadi dalam meramal nilai [[pemboleh ubah]] rawak. Contohnya, menentukan kesudahan dari satu lambungan syling (dua kesudahan sama boleh jadi) memberikan maklumat yang kurang (entropi yang rendah) berbanding dari satu lemparan dadu (enam kesudahan sama boleh jadi).
75,855

suntingan