Από τη Βικιπαίδεια, την ελεύθερη εγκυκλοπαίδεια
Στα μαθηματικά, η ανισότητα λογαρίθμου-αθροίσματος λέει ότι για μη-αρνητικούς πραγματικούς αριθμούς
και
, ισχύει ότι[1]:31
![{\displaystyle \sum _{i=1}^{n}a_{i}\log \left({\frac {a_{i}}{b_{i}}}\right)\geq \left(\sum _{i=1}^{n}a_{i}\right)\log \left({\frac {\sum _{i=1}^{n}a_{i}}{\sum _{i=1}^{n}b_{i}}}\right).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/310ef9e2017807e3a3f3554a1c71d45df06fb4ba)
Η ανισότητα βρίσκει αρκετές εφαρμογές στην θεωρία πληροφορίας.
Θα χρησιμοποιήσουμε την εξής μορφή της ανισότητας Γένσεν:
![{\displaystyle \lambda _{1}f(x_{1})+\ldots +\lambda _{n}f(x_{n})\geq f\left(\lambda _{1}x_{1}+\ldots +\lambda _{n}x_{n}\right),}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e102ae54b50594cebbdb285e627c7557301139cd)
για κάθε
και
με
.
Έστω
και
. Τότε,
![{\displaystyle \sum _{i=1}^{n}a_{i}\log \left({\frac {a_{i}}{b_{i}}}\right)=a\cdot \sum _{i=1}^{n}{\frac {a_{i}}{a}}\log \left({\frac {a_{i}/a}{b_{i}/a}}\right)=-a\cdot \sum _{i=1}^{n}{\frac {a_{i}}{a}}\log \left({\frac {b_{i}/a}{a_{i}/a}}\right).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fec181f6f778787ef33406d31c68365db81a8512)
|
|
(1)
|
Χρησιμοποιώντας την παραπάνω μορφή της ανισότητας Γένσεν για την κυρτή συνάρτηση
με
και
, έχουμε ότι
![{\displaystyle -a\cdot \sum _{i=1}^{n}{\frac {a_{i}}{a}}\log \left({\frac {b_{i}/a}{a_{i}/a}}\right)\geq -a\cdot \log \left(\sum _{i=1}^{n}{\frac {a_{i}}{a}}\cdot {\frac {b_{i}/a}{a_{i}/a}}\right)\geq -a\cdot \log \left(\sum _{i=1}^{n}{\frac {b_{i}}{a}}\right)=-a\cdot \log \left({\frac {b}{a}}\right)=a\cdot \log \left({\frac {a}{b}}\right).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b851152a5872516ed66e669c3953d6e274ccdf7d)
|
|
(2)
|
Συνδυάζοντας τις (1) και (2) λαμβάνουμε την ζητούμενη ανισότητα.