Для мессенджера был создан протокол
MTProto, предполагающий использование нескольких протоколов шифрования.
При авторизации и аутентификации используются алгоритмы RSA-2048, DH-2048 для шифрования[42], при передаче сообщений протокола в сеть они шифруются
AES с ключом, известным клиенту и серверу. Также применяются криптографические
хеш-алгоритмы SHA-1 и
MD5.
C 8 октября 2013 года в мессенджере появился режим
«секретных» чатов (Secret Chats). Этот режим реализует шифрование, при котором лишь отправитель и получатель обладают общим ключом (end-to-end шифрование), с применением алгоритма AES-256 в режиме
IGE (
англ. Infinite Garble Extension) для пересылаемых сообщений
[43]. В отличие от обычного режима, сообщения в секретных чатах не расшифровываются сервером, история переписки сохраняется лишь на тех двух устройствах, на которых был создан чат.