KVM: MMU: invalidate and flush on spte small->large page size change
[safe/jmp/linux-2.6] / crypto / cast6.c
index 3eb0810..e0c15a6 100644 (file)
  * under the terms of GNU General Public License as published by the Free
  * Software Foundation; either version 2 of the License, or (at your option)
  * any later version.
- * 
+ *
  * You should have received a copy of the GNU General Public License
  * along with this program; if not, write to the Free Software
  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
  */
 
 
+#include <asm/byteorder.h>
 #include <linux/init.h>
 #include <linux/crypto.h>
 #include <linux/module.h>
 #include <linux/errno.h>
 #include <linux/string.h>
+#include <linux/types.h>
 
 #define CAST6_BLOCK_SIZE 16
 #define CAST6_MIN_KEY_SIZE 16
@@ -33,12 +35,12 @@ struct cast6_ctx {
        u8 Kr[12][4];
 };
 
-#define F1(D,r,m)  (  (I = ((m) + (D))), (I=rol32(I,(r))),   \
-    (((s1[I >> 24] ^ s2[(I>>16)&0xff]) - s3[(I>>8)&0xff]) + s4[I&0xff]) )
-#define F2(D,r,m)  (  (I = ((m) ^ (D))), (I=rol32(I,(r))),   \
-    (((s1[I >> 24] - s2[(I>>16)&0xff]) + s3[(I>>8)&0xff]) ^ s4[I&0xff]) )
-#define F3(D,r,m)  (  (I = ((m) - (D))), (I=rol32(I,(r))),   \
-    (((s1[I >> 24] + s2[(I>>16)&0xff]) ^ s3[(I>>8)&0xff]) - s4[I&0xff]) )
+#define F1(D, r, m)  ((I = ((m) + (D))), (I = rol32(I, (r))),   \
+    (((s1[I >> 24] ^ s2[(I>>16)&0xff]) - s3[(I>>8)&0xff]) + s4[I&0xff]))
+#define F2(D, r, m)  ((I = ((m) ^ (D))), (I = rol32(I, (r))),   \
+    (((s1[I >> 24] - s2[(I>>16)&0xff]) + s3[(I>>8)&0xff]) ^ s4[I&0xff]))
+#define F3(D, r, m)  ((I = ((m) - (D))), (I = rol32(I, (r))),   \
+    (((s1[I >> 24] + s2[(I>>16)&0xff]) ^ s3[(I>>8)&0xff]) - s4[I&0xff]))
 
 static const u32 s1[256] = {
        0x30fb40d4, 0x9fa0ff0b, 0x6beccd2f, 0x3f258c7a, 0x1e213f2f,
@@ -310,7 +312,7 @@ static const u32 s4[256] = {
 
 static const u32 Tm[24][8] = {
        { 0x5a827999, 0xc95c653a, 0x383650db, 0xa7103c7c, 0x15ea281d,
-               0x84c413be, 0xf39dff5f, 0x6277eb00 } , 
+               0x84c413be, 0xf39dff5f, 0x6277eb00 } ,
        { 0xd151d6a1, 0x402bc242, 0xaf05ade3, 0x1ddf9984, 0x8cb98525,
                0xfb9370c6, 0x6a6d5c67, 0xd9474808 } ,
        { 0x482133a9, 0xb6fb1f4a, 0x25d50aeb, 0x94aef68c, 0x0388e22d,
@@ -367,7 +369,8 @@ static const u8 Tr[4][8] = {
 };
 
 /* forward octave */
-static inline void W(u32 *key, unsigned int i) {
+static void W(u32 *key, unsigned int i)
+{
        u32 I;
        key[6] ^= F1(key[7], Tr[i % 4][0], Tm[i][0]);
        key[5] ^= F2(key[6], Tr[i % 4][1], Tm[i][1]);
@@ -375,46 +378,45 @@ static inline void W(u32 *key, unsigned int i) {
        key[3] ^= F1(key[4], Tr[i % 4][3], Tm[i][3]);
        key[2] ^= F2(key[3], Tr[i % 4][4], Tm[i][4]);
        key[1] ^= F3(key[2], Tr[i % 4][5], Tm[i][5]);
-       key[0] ^= F1(key[1], Tr[i % 4][6], Tm[i][6]);   
+       key[0] ^= F1(key[1], Tr[i % 4][6], Tm[i][6]);
        key[7] ^= F2(key[0], Tr[i % 4][7], Tm[i][7]);
 }
 
-static int
-cast6_setkey(void *ctx, const u8 * in_key, unsigned key_len, u32 * flags)
+static int cast6_setkey(struct crypto_tfm *tfm, const u8 *in_key,
+                       unsigned key_len)
 {
        int i;
        u32 key[8];
-       u8 p_key[32]; /* padded key */
-       struct cast6_ctx *c = (struct cast6_ctx *) ctx;
+       __be32 p_key[8]; /* padded key */
+       struct cast6_ctx *c = crypto_tfm_ctx(tfm);
+       u32 *flags = &tfm->crt_flags;
 
-       if (key_len < 16 || key_len > 32 || key_len % 4 != 0) {
+       if (key_len % 4 != 0) {
                *flags |= CRYPTO_TFM_RES_BAD_KEY_LEN;
                return -EINVAL;
-       }       
-
-       memset (p_key, 0, 32);
-       memcpy (p_key, in_key, key_len);
-       
-       key[0] = p_key[0] << 24 | p_key[1] << 16 | p_key[2] << 8 | p_key[3];            /* A */
-       key[1] = p_key[4] << 24 | p_key[5] << 16 | p_key[6] << 8 | p_key[7];            /* B */
-       key[2] = p_key[8] << 24 | p_key[9] << 16 | p_key[10] << 8 | p_key[11];          /* C */
-       key[3] = p_key[12] << 24 | p_key[13] << 16 | p_key[14] << 8 | p_key[15];        /* D */
-       key[4] = p_key[16] << 24 | p_key[17] << 16 | p_key[18] << 8 | p_key[19];        /* E */
-       key[5] = p_key[20] << 24 | p_key[21] << 16 | p_key[22] << 8 | p_key[23];        /* F */
-       key[6] = p_key[24] << 24 | p_key[25] << 16 | p_key[26] << 8 | p_key[27];        /* G */
-       key[7] = p_key[28] << 24 | p_key[29] << 16 | p_key[30] << 8 | p_key[31];        /* H */
-       
+       }
 
+       memset(p_key, 0, 32);
+       memcpy(p_key, in_key, key_len);
+
+       key[0] = be32_to_cpu(p_key[0]);         /* A */
+       key[1] = be32_to_cpu(p_key[1]);         /* B */
+       key[2] = be32_to_cpu(p_key[2]);         /* C */
+       key[3] = be32_to_cpu(p_key[3]);         /* D */
+       key[4] = be32_to_cpu(p_key[4]);         /* E */
+       key[5] = be32_to_cpu(p_key[5]);         /* F */
+       key[6] = be32_to_cpu(p_key[6]);         /* G */
+       key[7] = be32_to_cpu(p_key[7]);         /* H */
 
        for (i = 0; i < 12; i++) {
-               W (key, 2 * i);
-               W (key, 2 * i + 1);
-               
+               W(key, 2 * i);
+               W(key, 2 * i + 1);
+
                c->Kr[i][0] = key[0] & 0x1f;
                c->Kr[i][1] = key[2] & 0x1f;
                c->Kr[i][2] = key[4] & 0x1f;
                c->Kr[i][3] = key[6] & 0x1f;
-               
+
                c->Km[i][0] = key[7];
                c->Km[i][1] = key[5];
                c->Km[i][2] = key[3];
@@ -425,112 +427,97 @@ cast6_setkey(void *ctx, const u8 * in_key, unsigned key_len, u32 * flags)
 }
 
 /*forward quad round*/
-static inline void Q (u32 * block, u8 * Kr, u32 * Km) {
+static void Q(u32 *block, u8 *Kr, u32 *Km)
+{
        u32 I;
        block[2] ^= F1(block[3], Kr[0], Km[0]);
        block[1] ^= F2(block[2], Kr[1], Km[1]);
        block[0] ^= F3(block[1], Kr[2], Km[2]);
-       block[3] ^= F1(block[0], Kr[3], Km[3]);         
+       block[3] ^= F1(block[0], Kr[3], Km[3]);
 }
 
 /*reverse quad round*/
-static inline void QBAR (u32 * block, u8 * Kr, u32 * Km) {
+static void QBAR(u32 *block, u8 *Kr, u32 *Km)
+{
        u32 I;
-        block[3] ^= F1(block[0], Kr[3], Km[3]);
-        block[0] ^= F3(block[1], Kr[2], Km[2]);
-        block[1] ^= F2(block[2], Kr[1], Km[1]);
-        block[2] ^= F1(block[3], Kr[0], Km[0]);
+       block[3] ^= F1(block[0], Kr[3], Km[3]);
+       block[0] ^= F3(block[1], Kr[2], Km[2]);
+       block[1] ^= F2(block[2], Kr[1], Km[1]);
+       block[2] ^= F1(block[3], Kr[0], Km[0]);
 }
 
-static void cast6_encrypt (void * ctx, u8 * outbuf, const u8 * inbuf) {
-       struct cast6_ctx * c = (struct cast6_ctx *)ctx;
+static void cast6_encrypt(struct crypto_tfm *tfm, u8 *outbuf, const u8 *inbuf)
+{
+       struct cast6_ctx *c = crypto_tfm_ctx(tfm);
+       const __be32 *src = (const __be32 *)inbuf;
+       __be32 *dst = (__be32 *)outbuf;
        u32 block[4];
-       u32 * Km; 
-       u8 * Kr;
-
-       block[0] = inbuf[0] << 24 | inbuf[1] << 16 | inbuf[2] << 8 | inbuf[3];
-       block[1] = inbuf[4] << 24 | inbuf[5] << 16 | inbuf[6] << 8 | inbuf[7];
-       block[2] = inbuf[8] << 24 | inbuf[9] << 16 | inbuf[10] << 8 | inbuf[11];
-       block[3] = inbuf[12] << 24 | inbuf[13] << 16 | inbuf[14] << 8 | inbuf[15];
-
-       Km = c->Km[0]; Kr = c->Kr[0]; Q (block, Kr, Km);
-       Km = c->Km[1]; Kr = c->Kr[1]; Q (block, Kr, Km);
-       Km = c->Km[2]; Kr = c->Kr[2]; Q (block, Kr, Km);
-       Km = c->Km[3]; Kr = c->Kr[3]; Q (block, Kr, Km);
-       Km = c->Km[4]; Kr = c->Kr[4]; Q (block, Kr, Km);
-       Km = c->Km[5]; Kr = c->Kr[5]; Q (block, Kr, Km);
-       Km = c->Km[6]; Kr = c->Kr[6]; QBAR (block, Kr, Km);
-       Km = c->Km[7]; Kr = c->Kr[7]; QBAR (block, Kr, Km);
-       Km = c->Km[8]; Kr = c->Kr[8]; QBAR (block, Kr, Km);
-       Km = c->Km[9]; Kr = c->Kr[9]; QBAR (block, Kr, Km);
-       Km = c->Km[10]; Kr = c->Kr[10]; QBAR (block, Kr, Km);
-       Km = c->Km[11]; Kr = c->Kr[11]; QBAR (block, Kr, Km);
-       
-       outbuf[0] = (block[0] >> 24) & 0xff;
-       outbuf[1] = (block[0] >> 16) & 0xff;
-       outbuf[2] = (block[0] >> 8) & 0xff;
-       outbuf[3] = block[0] & 0xff;
-       outbuf[4] = (block[1] >> 24) & 0xff;
-       outbuf[5] = (block[1] >> 16) & 0xff;
-       outbuf[6] = (block[1] >> 8) & 0xff;
-       outbuf[7] = block[1] & 0xff;
-       outbuf[8] = (block[2] >> 24) & 0xff;
-       outbuf[9] = (block[2] >> 16) & 0xff;
-       outbuf[10] = (block[2] >> 8) & 0xff;
-       outbuf[11] = block[2] & 0xff;
-       outbuf[12] = (block[3] >> 24) & 0xff;
-       outbuf[13] = (block[3] >> 16) & 0xff;
-       outbuf[14] = (block[3] >> 8) & 0xff;
-       outbuf[15] = block[3] & 0xff;   
-}      
-
-static void cast6_decrypt (void * ctx, u8 * outbuf, const u8 * inbuf) {
-       struct cast6_ctx * c = (struct cast6_ctx *)ctx;
+       u32 *Km;
+       u8 *Kr;
+
+       block[0] = be32_to_cpu(src[0]);
+       block[1] = be32_to_cpu(src[1]);
+       block[2] = be32_to_cpu(src[2]);
+       block[3] = be32_to_cpu(src[3]);
+
+       Km = c->Km[0]; Kr = c->Kr[0]; Q(block, Kr, Km);
+       Km = c->Km[1]; Kr = c->Kr[1]; Q(block, Kr, Km);
+       Km = c->Km[2]; Kr = c->Kr[2]; Q(block, Kr, Km);
+       Km = c->Km[3]; Kr = c->Kr[3]; Q(block, Kr, Km);
+       Km = c->Km[4]; Kr = c->Kr[4]; Q(block, Kr, Km);
+       Km = c->Km[5]; Kr = c->Kr[5]; Q(block, Kr, Km);
+       Km = c->Km[6]; Kr = c->Kr[6]; QBAR(block, Kr, Km);
+       Km = c->Km[7]; Kr = c->Kr[7]; QBAR(block, Kr, Km);
+       Km = c->Km[8]; Kr = c->Kr[8]; QBAR(block, Kr, Km);
+       Km = c->Km[9]; Kr = c->Kr[9]; QBAR(block, Kr, Km);
+       Km = c->Km[10]; Kr = c->Kr[10]; QBAR(block, Kr, Km);
+       Km = c->Km[11]; Kr = c->Kr[11]; QBAR(block, Kr, Km);
+
+       dst[0] = cpu_to_be32(block[0]);
+       dst[1] = cpu_to_be32(block[1]);
+       dst[2] = cpu_to_be32(block[2]);
+       dst[3] = cpu_to_be32(block[3]);
+}
+
+static void cast6_decrypt(struct crypto_tfm *tfm, u8 *outbuf, const u8 *inbuf)
+{
+       struct cast6_ctx *c = crypto_tfm_ctx(tfm);
+       const __be32 *src = (const __be32 *)inbuf;
+       __be32 *dst = (__be32 *)outbuf;
        u32 block[4];
-       u32 * Km; 
-       u8 * Kr;
-
-       block[0] = inbuf[0] << 24 | inbuf[1] << 16 | inbuf[2] << 8 | inbuf[3];
-       block[1] = inbuf[4] << 24 | inbuf[5] << 16 | inbuf[6] << 8 | inbuf[7];
-       block[2] = inbuf[8] << 24 | inbuf[9] << 16 | inbuf[10] << 8 | inbuf[11];
-       block[3] = inbuf[12] << 24 | inbuf[13] << 16 | inbuf[14] << 8 | inbuf[15];
-
-       Km = c->Km[11]; Kr = c->Kr[11]; Q (block, Kr, Km);
-       Km = c->Km[10]; Kr = c->Kr[10]; Q (block, Kr, Km);
-       Km = c->Km[9]; Kr = c->Kr[9]; Q (block, Kr, Km);
-       Km = c->Km[8]; Kr = c->Kr[8]; Q (block, Kr, Km);
-       Km = c->Km[7]; Kr = c->Kr[7]; Q (block, Kr, Km);
-       Km = c->Km[6]; Kr = c->Kr[6]; Q (block, Kr, Km);
-       Km = c->Km[5]; Kr = c->Kr[5]; QBAR (block, Kr, Km);
-       Km = c->Km[4]; Kr = c->Kr[4]; QBAR (block, Kr, Km);
-       Km = c->Km[3]; Kr = c->Kr[3]; QBAR (block, Kr, Km);
-       Km = c->Km[2]; Kr = c->Kr[2]; QBAR (block, Kr, Km);
-       Km = c->Km[1]; Kr = c->Kr[1]; QBAR (block, Kr, Km);
-       Km = c->Km[0]; Kr = c->Kr[0]; QBAR (block, Kr, Km);
-       
-       outbuf[0] = (block[0] >> 24) & 0xff;
-       outbuf[1] = (block[0] >> 16) & 0xff;
-       outbuf[2] = (block[0] >> 8) & 0xff;
-       outbuf[3] = block[0] & 0xff;
-       outbuf[4] = (block[1] >> 24) & 0xff;
-       outbuf[5] = (block[1] >> 16) & 0xff;
-       outbuf[6] = (block[1] >> 8) & 0xff;
-       outbuf[7] = block[1] & 0xff;
-       outbuf[8] = (block[2] >> 24) & 0xff;
-       outbuf[9] = (block[2] >> 16) & 0xff;
-       outbuf[10] = (block[2] >> 8) & 0xff;
-       outbuf[11] = block[2] & 0xff;
-       outbuf[12] = (block[3] >> 24) & 0xff;
-       outbuf[13] = (block[3] >> 16) & 0xff;
-       outbuf[14] = (block[3] >> 8) & 0xff;
-       outbuf[15] = block[3] & 0xff;   
-}      
+       u32 *Km;
+       u8 *Kr;
+
+       block[0] = be32_to_cpu(src[0]);
+       block[1] = be32_to_cpu(src[1]);
+       block[2] = be32_to_cpu(src[2]);
+       block[3] = be32_to_cpu(src[3]);
+
+       Km = c->Km[11]; Kr = c->Kr[11]; Q(block, Kr, Km);
+       Km = c->Km[10]; Kr = c->Kr[10]; Q(block, Kr, Km);
+       Km = c->Km[9]; Kr = c->Kr[9]; Q(block, Kr, Km);
+       Km = c->Km[8]; Kr = c->Kr[8]; Q(block, Kr, Km);
+       Km = c->Km[7]; Kr = c->Kr[7]; Q(block, Kr, Km);
+       Km = c->Km[6]; Kr = c->Kr[6]; Q(block, Kr, Km);
+       Km = c->Km[5]; Kr = c->Kr[5]; QBAR(block, Kr, Km);
+       Km = c->Km[4]; Kr = c->Kr[4]; QBAR(block, Kr, Km);
+       Km = c->Km[3]; Kr = c->Kr[3]; QBAR(block, Kr, Km);
+       Km = c->Km[2]; Kr = c->Kr[2]; QBAR(block, Kr, Km);
+       Km = c->Km[1]; Kr = c->Kr[1]; QBAR(block, Kr, Km);
+       Km = c->Km[0]; Kr = c->Kr[0]; QBAR(block, Kr, Km);
+
+       dst[0] = cpu_to_be32(block[0]);
+       dst[1] = cpu_to_be32(block[1]);
+       dst[2] = cpu_to_be32(block[2]);
+       dst[3] = cpu_to_be32(block[3]);
+}
 
 static struct crypto_alg alg = {
        .cra_name = "cast6",
        .cra_flags = CRYPTO_ALG_TYPE_CIPHER,
        .cra_blocksize = CAST6_BLOCK_SIZE,
        .cra_ctxsize = sizeof(struct cast6_ctx),
+       .cra_alignmask = 3,
        .cra_module = THIS_MODULE,
        .cra_list = LIST_HEAD_INIT(alg.cra_list),
        .cra_u = {
@@ -543,18 +530,18 @@ static struct crypto_alg alg = {
                  }
 };
 
-static int __init init(void)
+static int __init cast6_mod_init(void)
 {
        return crypto_register_alg(&alg);
 }
 
-static void __exit fini(void)
+static void __exit cast6_mod_fini(void)
 {
        crypto_unregister_alg(&alg);
 }
 
-module_init(init);
-module_exit(fini);
+module_init(cast6_mod_init);
+module_exit(cast6_mod_fini);
 
 MODULE_LICENSE("GPL");
 MODULE_DESCRIPTION("Cast6 Cipher Algorithm");