В вашем коде много проблем.

Клиент (JavaScript):

• AES имеет размер блока 128 бит, а режим CFB ожидает полный блок для IV. Использовать

  var iv = CryptoJS.lib.WordArray.random(128/8);
  

• Переменные iv и hash являются объектами WordArray, а encrypted — нет. Когда вы принудительно конвертируете их в строки, объединяя их (+), iv и hash имеют шестнадцатеричное кодирование, а encrypted форматируется в формате, совместимом с OpenSSL, и в кодировке Base64. Вам нужно получить доступ к свойству ciphertext, чтобы получить зашифрованный WordArray:

  var concat = iv + encrypted.ciphertext;
  

  и

  var registrationKey = iv + encrypted.ciphertext + hash;
  

• registrationKey имеет шестнадцатеричный код. Нет необходимости кодировать его снова с помощью Base64 и еще больше раздувать:

  var basemessage = registrationKey;
  

  Если вы хотите преобразовать шестнадцатеричную кодировку registrationKey в кодировку base64, используйте:

  var basemessage = CryptoJS.enc.Hex.parse(registrationKey).toString(CryptoJS.enc.Base64);
  

• concat представляет собой закодированную в шестнадцатеричном формате строку IV и зашифрованного текста, потому что вы принудительно закодировали строку, «добавив» (+) iv и encrypted. Функция HmacSHA256() принимает либо объект WordArray, либо строку. Когда вы передаете строку, она предполагает, что данные закодированы в UTF-8, и пытается декодировать их как UTF-8. Вам нужно самостоятельно разобрать данные в WordArray:

  var hash = CryptoJS.HmacSHA256(CryptoJS.enc.Hex.parse(concat), hmacKey);
  

• CryptoJS.AES.encrypt() и CryptoJS.HmacSHA256() ожидают ключ либо как объект WordArray, либо как строку. Как и прежде, если ключ предоставляется в виде строки, предполагается кодировка UTF-8, что здесь не так. Вам лучше разобрать строки в WordArrays самостоятельно:

  var encryptionKey = CryptoJS.enc.Hex.parse(masterKey.substr(0, length));
  var hmacKey = CryptoJS.enc.Hex.parse(masterKey.substr(length));
  

Сервер (Питон):

• Вы ничего не проверяете в verify_hmac(). Вы хешируете одни и те же данные с одним и тем же ключом дважды. Что вам нужно сделать, так это хешировать IV+зашифрованный текст и сравнить результат с хешем (называемым тегом или HMAC-тегом), который вы вырезаете из полного зашифрованного текста.

  def verify_hmac(self, input_cipher, mac):
      # Calculate hash using derived key from local password
      local_hash = HMAC.new(self.hmac_key, digestmod=SHA256)
      local_hash.update(input_cipher)
      local_digest = local_hash.digest()
  
      return mac == local_digest
  

  И позже в decrypt():

  verified_hmac = self.verify_hmac((iv+cipher_text), hmac)
  

• Вам нужно правильно отрезать MAC. Жестко закодированные 60 — плохая идея. Поскольку вы используете SHA-256, MAC имеет длину 32 байта, поэтому вы делаете это

  hmac = enc[-32:]
  cipher_text = enc[16:-32]
  

• Режим CFB на самом деле представляет собой набор подобных режимов. Фактический режим определяется размером сегмента. CryptoJS поддерживает только 128-битные сегменты. Поэтому вам нужно указать pycrypto использовать тот же режим, что и в CryptoJS:

  cipher = AES.new(self.key, AES.MODE_CFB, iv, segment_size=128)
  

  Если вы хотите использовать режим CFB с размером сегмента 8 бит (по умолчанию pycrypto), вы можете использовать модифицированную версию CFB в CryptoJS из моего проекта: Расширение для CryptoJS

Полный код клиента:

var password = 'BJhtfRjKnTDTtPXUBnErKDxfkiMCOLyP';
var data = 'mytext';

var masterKey = CryptoJS.SHA256(password).toString();
var length = masterKey.length / 2
var encryptionKey = CryptoJS.enc.Hex.parse(masterKey.substr(0, length));
var hmacKey = CryptoJS.enc.Hex.parse(masterKey.substr(length));

var iv = CryptoJS.lib.WordArray.random(128/8);

var encrypted = CryptoJS.AES.encrypt(
    data,
    encryptionKey,
    {
      iv: iv,
      mode: CryptoJS.mode.CFB
    }
);

var concat = iv + encrypted.ciphertext; 
var hash = CryptoJS.HmacSHA256(CryptoJS.enc.Hex.parse(concat), hmacKey);
var registrationKey = iv + encrypted.ciphertext + hash;
console.log(CryptoJS.enc.Hex.parse(registrationKey).toString(CryptoJS.enc.Base64));

Полный код сервера:

from Crypto.Cipher import AES
from Crypto.Hash import HMAC, SHA256
import base64
import binascii

class AESCipher:
    def __init__(self, key):
        key_hash = SHA256.new(key).hexdigest()
        self.hmac_key = binascii.unhexlify(key_hash[len(key_hash)/2:])
        self.key = binascii.unhexlify(key_hash[:len(key_hash)/2])

    def verify_hmac(self, input_cipher, mac):
        local_hash = HMAC.new(self.hmac_key, digestmod=SHA256)
        local_hash.update(input_cipher)
        local_digest = local_hash.digest()

        return SHA256.new(mac).digest() == SHA256.new(local_digest).digest() # more or less constant-time comparison

    def decrypt(self, enc):
        enc = base64.b64decode(enc)
        iv = enc[:16]
        hmac = enc[-32:]
        cipher_text = enc[16:-32]

        verified_hmac = self.verify_hmac((iv+cipher_text), hmac)

        if verified_hmac:
            cipher = AES.new(self.key, AES.MODE_CFB, iv, segment_size=128)
            return cipher.decrypt(cipher_text)
        else:
            return 'Bad Verify'


password = 'BJhtfRjKnTDTtPXUBnErKDxfkiMCOLyP'

input = "btu0CCFbvdYV4B/j7hezAra6Q6u6KB8n5QcyA32JFLU8QRd+jLGW0GxMQsTqxaNaNkcU2I9r1ls4QUPUpaLPQg=="

obj = AESCipher(password)
decryption = obj.decrypt(input)

print 'Decrypted message:', decryption