xref: /freebsd/crypto/openssl/test/dsatest.c (revision e0c4386e)
1*e0c4386eSCy Schubert /*
2*e0c4386eSCy Schubert  * Copyright 1995-2023 The OpenSSL Project Authors. All Rights Reserved.
3*e0c4386eSCy Schubert  *
4*e0c4386eSCy Schubert  * Licensed under the Apache License 2.0 (the "License").  You may not use
5*e0c4386eSCy Schubert  * this file except in compliance with the License.  You can obtain a copy
6*e0c4386eSCy Schubert  * in the file LICENSE in the source distribution or at
7*e0c4386eSCy Schubert  * https://www.openssl.org/source/license.html
8*e0c4386eSCy Schubert  */
9*e0c4386eSCy Schubert 
10*e0c4386eSCy Schubert /*
11*e0c4386eSCy Schubert  * DSA low level APIs are deprecated for public use, but still ok for
12*e0c4386eSCy Schubert  * internal use.
13*e0c4386eSCy Schubert  */
14*e0c4386eSCy Schubert #include "internal/deprecated.h"
15*e0c4386eSCy Schubert 
16*e0c4386eSCy Schubert #include <stdio.h>
17*e0c4386eSCy Schubert #include <stdlib.h>
18*e0c4386eSCy Schubert #include <string.h>
19*e0c4386eSCy Schubert #include <sys/types.h>
20*e0c4386eSCy Schubert #include <sys/stat.h>
21*e0c4386eSCy Schubert 
22*e0c4386eSCy Schubert #include <openssl/crypto.h>
23*e0c4386eSCy Schubert #include <openssl/rand.h>
24*e0c4386eSCy Schubert #include <openssl/bn.h>
25*e0c4386eSCy Schubert #include <openssl/dsa.h>
26*e0c4386eSCy Schubert #include <openssl/evp.h>
27*e0c4386eSCy Schubert #include <openssl/core_names.h>
28*e0c4386eSCy Schubert 
29*e0c4386eSCy Schubert #include "testutil.h"
30*e0c4386eSCy Schubert #include "internal/nelem.h"
31*e0c4386eSCy Schubert 
32*e0c4386eSCy Schubert #ifndef OPENSSL_NO_DSA
33*e0c4386eSCy Schubert static int dsa_cb(int p, int n, BN_GENCB *arg);
34*e0c4386eSCy Schubert 
35*e0c4386eSCy Schubert static unsigned char out_p[] = {
36*e0c4386eSCy Schubert     0x8d, 0xf2, 0xa4, 0x94, 0x49, 0x22, 0x76, 0xaa,
37*e0c4386eSCy Schubert     0x3d, 0x25, 0x75, 0x9b, 0xb0, 0x68, 0x69, 0xcb,
38*e0c4386eSCy Schubert     0xea, 0xc0, 0xd8, 0x3a, 0xfb, 0x8d, 0x0c, 0xf7,
39*e0c4386eSCy Schubert     0xcb, 0xb8, 0x32, 0x4f, 0x0d, 0x78, 0x82, 0xe5,
40*e0c4386eSCy Schubert     0xd0, 0x76, 0x2f, 0xc5, 0xb7, 0x21, 0x0e, 0xaf,
41*e0c4386eSCy Schubert     0xc2, 0xe9, 0xad, 0xac, 0x32, 0xab, 0x7a, 0xac,
42*e0c4386eSCy Schubert     0x49, 0x69, 0x3d, 0xfb, 0xf8, 0x37, 0x24, 0xc2,
43*e0c4386eSCy Schubert     0xec, 0x07, 0x36, 0xee, 0x31, 0xc8, 0x02, 0x91,
44*e0c4386eSCy Schubert };
45*e0c4386eSCy Schubert static unsigned char out_q[] = {
46*e0c4386eSCy Schubert     0xc7, 0x73, 0x21, 0x8c, 0x73, 0x7e, 0xc8, 0xee,
47*e0c4386eSCy Schubert     0x99, 0x3b, 0x4f, 0x2d, 0xed, 0x30, 0xf4, 0x8e,
48*e0c4386eSCy Schubert     0xda, 0xce, 0x91, 0x5f,
49*e0c4386eSCy Schubert };
50*e0c4386eSCy Schubert static unsigned char out_g[] = {
51*e0c4386eSCy Schubert     0x62, 0x6d, 0x02, 0x78, 0x39, 0xea, 0x0a, 0x13,
52*e0c4386eSCy Schubert     0x41, 0x31, 0x63, 0xa5, 0x5b, 0x4c, 0xb5, 0x00,
53*e0c4386eSCy Schubert     0x29, 0x9d, 0x55, 0x22, 0x95, 0x6c, 0xef, 0xcb,
54*e0c4386eSCy Schubert     0x3b, 0xff, 0x10, 0xf3, 0x99, 0xce, 0x2c, 0x2e,
55*e0c4386eSCy Schubert     0x71, 0xcb, 0x9d, 0xe5, 0xfa, 0x24, 0xba, 0xbf,
56*e0c4386eSCy Schubert     0x58, 0xe5, 0xb7, 0x95, 0x21, 0x92, 0x5c, 0x9c,
57*e0c4386eSCy Schubert     0xc4, 0x2e, 0x9f, 0x6f, 0x46, 0x4b, 0x08, 0x8c,
58*e0c4386eSCy Schubert     0xc5, 0x72, 0xaf, 0x53, 0xe6, 0xd7, 0x88, 0x02,
59*e0c4386eSCy Schubert };
60*e0c4386eSCy Schubert 
dsa_test(void)61*e0c4386eSCy Schubert static int dsa_test(void)
62*e0c4386eSCy Schubert {
63*e0c4386eSCy Schubert     BN_GENCB *cb;
64*e0c4386eSCy Schubert     DSA *dsa = NULL;
65*e0c4386eSCy Schubert     int counter, ret = 0, i, j;
66*e0c4386eSCy Schubert     unsigned char buf[256];
67*e0c4386eSCy Schubert     unsigned long h;
68*e0c4386eSCy Schubert     unsigned char sig[256];
69*e0c4386eSCy Schubert     unsigned int siglen;
70*e0c4386eSCy Schubert     const BIGNUM *p = NULL, *q = NULL, *g = NULL;
71*e0c4386eSCy Schubert     /*
72*e0c4386eSCy Schubert      * seed, out_p, out_q, out_g are taken from the updated Appendix 5 to FIPS
73*e0c4386eSCy Schubert      * PUB 186 and also appear in Appendix 5 to FIPS PIB 186-1
74*e0c4386eSCy Schubert      */
75*e0c4386eSCy Schubert     static unsigned char seed[20] = {
76*e0c4386eSCy Schubert         0xd5, 0x01, 0x4e, 0x4b, 0x60, 0xef, 0x2b, 0xa8,
77*e0c4386eSCy Schubert         0xb6, 0x21, 0x1b, 0x40, 0x62, 0xba, 0x32, 0x24,
78*e0c4386eSCy Schubert         0xe0, 0x42, 0x7d, 0xd3,
79*e0c4386eSCy Schubert     };
80*e0c4386eSCy Schubert     static const unsigned char str1[] = "12345678901234567890";
81*e0c4386eSCy Schubert 
82*e0c4386eSCy Schubert     if (!TEST_ptr(cb = BN_GENCB_new()))
83*e0c4386eSCy Schubert         goto end;
84*e0c4386eSCy Schubert 
85*e0c4386eSCy Schubert     BN_GENCB_set(cb, dsa_cb, NULL);
86*e0c4386eSCy Schubert     if (!TEST_ptr(dsa = DSA_new())
87*e0c4386eSCy Schubert         || !TEST_true(DSA_generate_parameters_ex(dsa, 512, seed, 20,
88*e0c4386eSCy Schubert                                                 &counter, &h, cb)))
89*e0c4386eSCy Schubert         goto end;
90*e0c4386eSCy Schubert 
91*e0c4386eSCy Schubert     if (!TEST_int_eq(counter, 105))
92*e0c4386eSCy Schubert         goto end;
93*e0c4386eSCy Schubert     if (!TEST_int_eq(h, 2))
94*e0c4386eSCy Schubert         goto end;
95*e0c4386eSCy Schubert 
96*e0c4386eSCy Schubert     DSA_get0_pqg(dsa, &p, &q, &g);
97*e0c4386eSCy Schubert     i = BN_bn2bin(q, buf);
98*e0c4386eSCy Schubert     j = sizeof(out_q);
99*e0c4386eSCy Schubert     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_q, i))
100*e0c4386eSCy Schubert         goto end;
101*e0c4386eSCy Schubert 
102*e0c4386eSCy Schubert     i = BN_bn2bin(p, buf);
103*e0c4386eSCy Schubert     j = sizeof(out_p);
104*e0c4386eSCy Schubert     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_p, i))
105*e0c4386eSCy Schubert         goto end;
106*e0c4386eSCy Schubert 
107*e0c4386eSCy Schubert     i = BN_bn2bin(g, buf);
108*e0c4386eSCy Schubert     j = sizeof(out_g);
109*e0c4386eSCy Schubert     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_g, i))
110*e0c4386eSCy Schubert         goto end;
111*e0c4386eSCy Schubert 
112*e0c4386eSCy Schubert     if (!TEST_true(DSA_generate_key(dsa)))
113*e0c4386eSCy Schubert         goto end;
114*e0c4386eSCy Schubert     if (!TEST_true(DSA_sign(0, str1, 20, sig, &siglen, dsa)))
115*e0c4386eSCy Schubert         goto end;
116*e0c4386eSCy Schubert     if (TEST_int_gt(DSA_verify(0, str1, 20, sig, siglen, dsa), 0))
117*e0c4386eSCy Schubert         ret = 1;
118*e0c4386eSCy Schubert  end:
119*e0c4386eSCy Schubert     DSA_free(dsa);
120*e0c4386eSCy Schubert     BN_GENCB_free(cb);
121*e0c4386eSCy Schubert     return ret;
122*e0c4386eSCy Schubert }
123*e0c4386eSCy Schubert 
dsa_cb(int p,int n,BN_GENCB * arg)124*e0c4386eSCy Schubert static int dsa_cb(int p, int n, BN_GENCB *arg)
125*e0c4386eSCy Schubert {
126*e0c4386eSCy Schubert     static int ok = 0, num = 0;
127*e0c4386eSCy Schubert 
128*e0c4386eSCy Schubert     if (p == 0)
129*e0c4386eSCy Schubert         num++;
130*e0c4386eSCy Schubert     if (p == 2)
131*e0c4386eSCy Schubert         ok++;
132*e0c4386eSCy Schubert 
133*e0c4386eSCy Schubert     if (!ok && (p == 0) && (num > 1)) {
134*e0c4386eSCy Schubert         TEST_error("dsa_cb error");
135*e0c4386eSCy Schubert         return 0;
136*e0c4386eSCy Schubert     }
137*e0c4386eSCy Schubert     return 1;
138*e0c4386eSCy Schubert }
139*e0c4386eSCy Schubert 
140*e0c4386eSCy Schubert # define P      0
141*e0c4386eSCy Schubert # define Q      1
142*e0c4386eSCy Schubert # define G      2
143*e0c4386eSCy Schubert # define SEED   3
144*e0c4386eSCy Schubert # define PCOUNT 4
145*e0c4386eSCy Schubert # define GINDEX 5
146*e0c4386eSCy Schubert # define HCOUNT 6
147*e0c4386eSCy Schubert # define GROUP  7
148*e0c4386eSCy Schubert 
dsa_keygen_test(void)149*e0c4386eSCy Schubert static int dsa_keygen_test(void)
150*e0c4386eSCy Schubert {
151*e0c4386eSCy Schubert     int ret = 0;
152*e0c4386eSCy Schubert     EVP_PKEY *param_key = NULL, *key = NULL;
153*e0c4386eSCy Schubert     EVP_PKEY_CTX *pg_ctx = NULL, *kg_ctx = NULL;
154*e0c4386eSCy Schubert     BIGNUM *p_in = NULL, *q_in = NULL, *g_in = NULL;
155*e0c4386eSCy Schubert     BIGNUM *p_out = NULL, *q_out = NULL, *g_out = NULL;
156*e0c4386eSCy Schubert     int gindex_out = 0, pcount_out = 0, hcount_out = 0;
157*e0c4386eSCy Schubert     unsigned char seed_out[32];
158*e0c4386eSCy Schubert     char group_out[32];
159*e0c4386eSCy Schubert     size_t len = 0;
160*e0c4386eSCy Schubert     const OSSL_PARAM *settables = NULL;
161*e0c4386eSCy Schubert     static const unsigned char seed_data[] = {
162*e0c4386eSCy Schubert         0xa6, 0xf5, 0x28, 0x8c, 0x50, 0x77, 0xa5, 0x68,
163*e0c4386eSCy Schubert         0x6d, 0x3a, 0xf5, 0xf1, 0xc6, 0x4c, 0xdc, 0x35,
164*e0c4386eSCy Schubert         0x95, 0x26, 0x3f, 0x03, 0xdc, 0x00, 0x3f, 0x44,
165*e0c4386eSCy Schubert         0x7b, 0x2a, 0xc7, 0x29
166*e0c4386eSCy Schubert     };
167*e0c4386eSCy Schubert     static const unsigned char expected_p[]= {
168*e0c4386eSCy Schubert         0xdb, 0x47, 0x07, 0xaf, 0xf0, 0x06, 0x49, 0x55,
169*e0c4386eSCy Schubert         0xc9, 0xbb, 0x09, 0x41, 0xb8, 0xdb, 0x1f, 0xbc,
170*e0c4386eSCy Schubert         0xa8, 0xed, 0x12, 0x06, 0x7f, 0x88, 0x49, 0xb8,
171*e0c4386eSCy Schubert         0xc9, 0x12, 0x87, 0x21, 0xbb, 0x08, 0x6c, 0xbd,
172*e0c4386eSCy Schubert         0xf1, 0x89, 0xef, 0x84, 0xd9, 0x7a, 0x93, 0xe8,
173*e0c4386eSCy Schubert         0x45, 0x40, 0x81, 0xec, 0x37, 0x27, 0x1a, 0xa4,
174*e0c4386eSCy Schubert         0x22, 0x51, 0x99, 0xf0, 0xde, 0x04, 0xdb, 0xea,
175*e0c4386eSCy Schubert         0xa1, 0xf9, 0x37, 0x83, 0x80, 0x96, 0x36, 0x53,
176*e0c4386eSCy Schubert         0xf6, 0xae, 0x14, 0x73, 0x33, 0x0f, 0xdf, 0x0b,
177*e0c4386eSCy Schubert         0xf9, 0x2f, 0x08, 0x46, 0x31, 0xf9, 0x66, 0xcd,
178*e0c4386eSCy Schubert         0x5a, 0xeb, 0x6c, 0xf3, 0xbb, 0x74, 0xf3, 0x88,
179*e0c4386eSCy Schubert         0xf0, 0x31, 0x5c, 0xa4, 0xc8, 0x0f, 0x86, 0xf3,
180*e0c4386eSCy Schubert         0x0f, 0x9f, 0xc0, 0x8c, 0x57, 0xe4, 0x7f, 0x95,
181*e0c4386eSCy Schubert         0xb3, 0x62, 0xc8, 0x4e, 0xae, 0xf3, 0xd8, 0x14,
182*e0c4386eSCy Schubert         0xcc, 0x47, 0xc2, 0x4b, 0x4f, 0xef, 0xaf, 0xcd,
183*e0c4386eSCy Schubert         0xcf, 0xb2, 0xbb, 0xe8, 0xbe, 0x08, 0xca, 0x15,
184*e0c4386eSCy Schubert         0x90, 0x59, 0x35, 0xef, 0x35, 0x1c, 0xfe, 0xeb,
185*e0c4386eSCy Schubert         0x33, 0x2e, 0x25, 0x22, 0x57, 0x9c, 0x55, 0x23,
186*e0c4386eSCy Schubert         0x0c, 0x6f, 0xed, 0x7c, 0xb6, 0xc7, 0x36, 0x0b,
187*e0c4386eSCy Schubert         0xcb, 0x2b, 0x6a, 0x21, 0xa1, 0x1d, 0x55, 0x77,
188*e0c4386eSCy Schubert         0xd9, 0x91, 0xcd, 0xc1, 0xcd, 0x3d, 0x82, 0x16,
189*e0c4386eSCy Schubert         0x9c, 0xa0, 0x13, 0xa5, 0x83, 0x55, 0x3a, 0x73,
190*e0c4386eSCy Schubert         0x7e, 0x2c, 0x44, 0x3e, 0x70, 0x2e, 0x50, 0x91,
191*e0c4386eSCy Schubert         0x6e, 0xca, 0x3b, 0xef, 0xff, 0x85, 0x35, 0x70,
192*e0c4386eSCy Schubert         0xff, 0x61, 0x0c, 0xb1, 0xb2, 0xb7, 0x94, 0x6f,
193*e0c4386eSCy Schubert         0x65, 0xa4, 0x57, 0x62, 0xef, 0x21, 0x83, 0x0f,
194*e0c4386eSCy Schubert         0x3e, 0x71, 0xae, 0x7d, 0xe4, 0xad, 0xfb, 0xe3,
195*e0c4386eSCy Schubert         0xdd, 0xd6, 0x03, 0xda, 0x9a, 0xd8, 0x8f, 0x2d,
196*e0c4386eSCy Schubert         0xbb, 0x90, 0x87, 0xf8, 0xdb, 0xdc, 0xec, 0x71,
197*e0c4386eSCy Schubert         0xf2, 0xdb, 0x0b, 0x8e, 0xfc, 0x1a, 0x7e, 0x79,
198*e0c4386eSCy Schubert         0xb1, 0x1b, 0x0d, 0xfc, 0x70, 0xec, 0x85, 0xc2,
199*e0c4386eSCy Schubert         0xc5, 0xba, 0xb9, 0x69, 0x3f, 0x88, 0xbc, 0xcb
200*e0c4386eSCy Schubert     };
201*e0c4386eSCy Schubert     static const unsigned char expected_q[]= {
202*e0c4386eSCy Schubert         0x99, 0xb6, 0xa0, 0xee, 0xb3, 0xa6, 0x99, 0x1a,
203*e0c4386eSCy Schubert         0xb6, 0x67, 0x8d, 0xc1, 0x2b, 0x9b, 0xce, 0x2b,
204*e0c4386eSCy Schubert         0x01, 0x72, 0x5a, 0x65, 0x76, 0x3d, 0x93, 0x69,
205*e0c4386eSCy Schubert         0xe2, 0x56, 0xae, 0xd7
206*e0c4386eSCy Schubert     };
207*e0c4386eSCy Schubert     static const unsigned char expected_g[]= {
208*e0c4386eSCy Schubert         0x63, 0xf8, 0xb6, 0xee, 0x2a, 0x27, 0xaf, 0x4f,
209*e0c4386eSCy Schubert         0x4c, 0xf6, 0x08, 0x28, 0x87, 0x4a, 0xe7, 0x1f,
210*e0c4386eSCy Schubert         0x45, 0x46, 0x27, 0x52, 0x3b, 0x7f, 0x6f, 0xd2,
211*e0c4386eSCy Schubert         0x29, 0xcb, 0xe8, 0x11, 0x19, 0x25, 0x35, 0x76,
212*e0c4386eSCy Schubert         0x99, 0xcb, 0x4f, 0x1b, 0xe0, 0xed, 0x32, 0x9e,
213*e0c4386eSCy Schubert         0x05, 0xb5, 0xbe, 0xd7, 0xf6, 0x5a, 0xb2, 0xf6,
214*e0c4386eSCy Schubert         0x0e, 0x0c, 0x7e, 0xf5, 0xe1, 0x05, 0xfe, 0xda,
215*e0c4386eSCy Schubert         0xaf, 0x0f, 0x27, 0x1e, 0x40, 0x2a, 0xf7, 0xa7,
216*e0c4386eSCy Schubert         0x23, 0x49, 0x2c, 0xd9, 0x1b, 0x0a, 0xbe, 0xff,
217*e0c4386eSCy Schubert         0xc7, 0x7c, 0x7d, 0x60, 0xca, 0xa3, 0x19, 0xc3,
218*e0c4386eSCy Schubert         0xb7, 0xe4, 0x43, 0xb0, 0xf5, 0x75, 0x44, 0x90,
219*e0c4386eSCy Schubert         0x46, 0x47, 0xb1, 0xa6, 0x48, 0x0b, 0x21, 0x8e,
220*e0c4386eSCy Schubert         0xee, 0x75, 0xe6, 0x3d, 0xa7, 0xd3, 0x7b, 0x31,
221*e0c4386eSCy Schubert         0xd1, 0xd2, 0x9d, 0xe2, 0x8a, 0xfc, 0x57, 0xfd,
222*e0c4386eSCy Schubert         0x8a, 0x10, 0x31, 0xeb, 0x87, 0x36, 0x3f, 0x65,
223*e0c4386eSCy Schubert         0x72, 0x23, 0x2c, 0xd3, 0xd6, 0x17, 0xa5, 0x62,
224*e0c4386eSCy Schubert         0x58, 0x65, 0x57, 0x6a, 0xd4, 0xa8, 0xfe, 0xec,
225*e0c4386eSCy Schubert         0x57, 0x76, 0x0c, 0xb1, 0x4c, 0x93, 0xed, 0xb0,
226*e0c4386eSCy Schubert         0xb4, 0xf9, 0x45, 0xb3, 0x3e, 0xdd, 0x47, 0xf1,
227*e0c4386eSCy Schubert         0xfb, 0x7d, 0x25, 0x79, 0x3d, 0xfc, 0xa7, 0x39,
228*e0c4386eSCy Schubert         0x90, 0x68, 0x6a, 0x6b, 0xae, 0xf2, 0x6e, 0x64,
229*e0c4386eSCy Schubert         0x8c, 0xfb, 0xb8, 0xdd, 0x76, 0x4e, 0x4a, 0x69,
230*e0c4386eSCy Schubert         0x8c, 0x97, 0x15, 0x77, 0xb2, 0x67, 0xdc, 0xeb,
231*e0c4386eSCy Schubert         0x4a, 0x40, 0x6b, 0xb9, 0x47, 0x8f, 0xa6, 0xab,
232*e0c4386eSCy Schubert         0x6e, 0x98, 0xc0, 0x97, 0x9a, 0x0c, 0xea, 0x00,
233*e0c4386eSCy Schubert         0xfd, 0x56, 0x1a, 0x74, 0x9a, 0x32, 0x6b, 0xfe,
234*e0c4386eSCy Schubert         0xbd, 0xdf, 0x6c, 0x82, 0x54, 0x53, 0x4d, 0x70,
235*e0c4386eSCy Schubert         0x65, 0xe3, 0x8b, 0x37, 0xb8, 0xe4, 0x70, 0x08,
236*e0c4386eSCy Schubert         0xb7, 0x3b, 0x30, 0x27, 0xaf, 0x1c, 0x77, 0xf3,
237*e0c4386eSCy Schubert         0x62, 0xd4, 0x9a, 0x59, 0xba, 0xd1, 0x6e, 0x89,
238*e0c4386eSCy Schubert         0x5c, 0x34, 0x9a, 0xa1, 0xb7, 0x4f, 0x7d, 0x8c,
239*e0c4386eSCy Schubert         0xdc, 0xbc, 0x74, 0x25, 0x5e, 0xbf, 0x77, 0x46
240*e0c4386eSCy Schubert     };
241*e0c4386eSCy Schubert     int expected_c = 1316;
242*e0c4386eSCy Schubert     int expected_h = 2;
243*e0c4386eSCy Schubert 
244*e0c4386eSCy Schubert     if (!TEST_ptr(p_in = BN_bin2bn(expected_p, sizeof(expected_p), NULL))
245*e0c4386eSCy Schubert         || !TEST_ptr(q_in = BN_bin2bn(expected_q, sizeof(expected_q), NULL))
246*e0c4386eSCy Schubert         || !TEST_ptr(g_in = BN_bin2bn(expected_g, sizeof(expected_g), NULL)))
247*e0c4386eSCy Schubert         goto end;
248*e0c4386eSCy Schubert     if (!TEST_ptr(pg_ctx = EVP_PKEY_CTX_new_from_name(NULL, "DSA", NULL))
249*e0c4386eSCy Schubert         || !TEST_int_gt(EVP_PKEY_paramgen_init(pg_ctx), 0)
250*e0c4386eSCy Schubert         || !TEST_ptr_null(EVP_PKEY_CTX_gettable_params(pg_ctx))
251*e0c4386eSCy Schubert         || !TEST_ptr(settables = EVP_PKEY_CTX_settable_params(pg_ctx))
252*e0c4386eSCy Schubert         || !TEST_ptr(OSSL_PARAM_locate_const(settables,
253*e0c4386eSCy Schubert                                              OSSL_PKEY_PARAM_FFC_PBITS))
254*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_type(pg_ctx, "fips186_4"))
255*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_bits(pg_ctx, 2048))
256*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_q_bits(pg_ctx, 224))
257*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_seed(pg_ctx, seed_data,
258*e0c4386eSCy Schubert                                                          sizeof(seed_data)))
259*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_md_props(pg_ctx, "SHA256",
260*e0c4386eSCy Schubert                                                              ""))
261*e0c4386eSCy Schubert         || !TEST_int_gt(EVP_PKEY_generate(pg_ctx, &param_key), 0)
262*e0c4386eSCy Schubert         || !TEST_ptr(kg_ctx = EVP_PKEY_CTX_new_from_pkey(NULL, param_key, NULL))
263*e0c4386eSCy Schubert         || !TEST_int_gt(EVP_PKEY_keygen_init(kg_ctx), 0)
264*e0c4386eSCy Schubert         || !TEST_int_gt(EVP_PKEY_generate(kg_ctx, &key), 0))
265*e0c4386eSCy Schubert         goto end;
266*e0c4386eSCy Schubert 
267*e0c4386eSCy Schubert     if (!TEST_true(EVP_PKEY_get_bn_param(key, OSSL_PKEY_PARAM_FFC_P, &p_out))
268*e0c4386eSCy Schubert         || !TEST_BN_eq(p_in, p_out)
269*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_bn_param(key, OSSL_PKEY_PARAM_FFC_Q, &q_out))
270*e0c4386eSCy Schubert         || !TEST_BN_eq(q_in, q_out)
271*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_bn_param(key, OSSL_PKEY_PARAM_FFC_G, &g_out))
272*e0c4386eSCy Schubert         || !TEST_BN_eq(g_in, g_out)
273*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_octet_string_param(
274*e0c4386eSCy Schubert                           key, OSSL_PKEY_PARAM_FFC_SEED, seed_out,
275*e0c4386eSCy Schubert                           sizeof(seed_out), &len))
276*e0c4386eSCy Schubert         || !TEST_mem_eq(seed_out, len, seed_data, sizeof(seed_data))
277*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_int_param(key, OSSL_PKEY_PARAM_FFC_GINDEX,
278*e0c4386eSCy Schubert                                              &gindex_out))
279*e0c4386eSCy Schubert         || !TEST_int_eq(gindex_out, -1)
280*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_int_param(key, OSSL_PKEY_PARAM_FFC_H,
281*e0c4386eSCy Schubert                                              &hcount_out))
282*e0c4386eSCy Schubert         || !TEST_int_eq(hcount_out, expected_h)
283*e0c4386eSCy Schubert         || !TEST_true(EVP_PKEY_get_int_param(key,
284*e0c4386eSCy Schubert                                              OSSL_PKEY_PARAM_FFC_PCOUNTER,
285*e0c4386eSCy Schubert                                              &pcount_out))
286*e0c4386eSCy Schubert         || !TEST_int_eq(pcount_out, expected_c)
287*e0c4386eSCy Schubert         || !TEST_false(EVP_PKEY_get_utf8_string_param(key,
288*e0c4386eSCy Schubert                                                       OSSL_PKEY_PARAM_GROUP_NAME,
289*e0c4386eSCy Schubert                                                       group_out,
290*e0c4386eSCy Schubert                                                       sizeof(group_out), &len)))
291*e0c4386eSCy Schubert         goto end;
292*e0c4386eSCy Schubert     ret = 1;
293*e0c4386eSCy Schubert end:
294*e0c4386eSCy Schubert     BN_free(p_in);
295*e0c4386eSCy Schubert     BN_free(q_in);
296*e0c4386eSCy Schubert     BN_free(g_in);
297*e0c4386eSCy Schubert     BN_free(p_out);
298*e0c4386eSCy Schubert     BN_free(q_out);
299*e0c4386eSCy Schubert     BN_free(g_out);
300*e0c4386eSCy Schubert     EVP_PKEY_free(param_key);
301*e0c4386eSCy Schubert     EVP_PKEY_free(key);
302*e0c4386eSCy Schubert     EVP_PKEY_CTX_free(kg_ctx);
303*e0c4386eSCy Schubert     EVP_PKEY_CTX_free(pg_ctx);
304*e0c4386eSCy Schubert     return ret;
305*e0c4386eSCy Schubert }
306*e0c4386eSCy Schubert 
test_dsa_default_paramgen_validate(int i)307*e0c4386eSCy Schubert static int test_dsa_default_paramgen_validate(int i)
308*e0c4386eSCy Schubert {
309*e0c4386eSCy Schubert     int ret;
310*e0c4386eSCy Schubert     EVP_PKEY_CTX *gen_ctx = NULL;
311*e0c4386eSCy Schubert     EVP_PKEY_CTX *check_ctx = NULL;
312*e0c4386eSCy Schubert     EVP_PKEY *params = NULL;
313*e0c4386eSCy Schubert 
314*e0c4386eSCy Schubert     ret = TEST_ptr(gen_ctx = EVP_PKEY_CTX_new_from_name(NULL, "DSA", NULL))
315*e0c4386eSCy Schubert           && TEST_int_gt(EVP_PKEY_paramgen_init(gen_ctx), 0)
316*e0c4386eSCy Schubert           && (i == 0
317*e0c4386eSCy Schubert               || TEST_true(EVP_PKEY_CTX_set_dsa_paramgen_bits(gen_ctx, 512)))
318*e0c4386eSCy Schubert           && TEST_int_gt(EVP_PKEY_generate(gen_ctx, &params), 0)
319*e0c4386eSCy Schubert           && TEST_ptr(check_ctx = EVP_PKEY_CTX_new_from_pkey(NULL, params, NULL))
320*e0c4386eSCy Schubert           && TEST_int_gt(EVP_PKEY_param_check(check_ctx), 0);
321*e0c4386eSCy Schubert 
322*e0c4386eSCy Schubert     EVP_PKEY_free(params);
323*e0c4386eSCy Schubert     EVP_PKEY_CTX_free(check_ctx);
324*e0c4386eSCy Schubert     EVP_PKEY_CTX_free(gen_ctx);
325*e0c4386eSCy Schubert     return ret;
326*e0c4386eSCy Schubert }
327*e0c4386eSCy Schubert 
test_dsa_sig_infinite_loop(void)328*e0c4386eSCy Schubert static int test_dsa_sig_infinite_loop(void)
329*e0c4386eSCy Schubert {
330*e0c4386eSCy Schubert     int ret = 0;
331*e0c4386eSCy Schubert     DSA *dsa = NULL;
332*e0c4386eSCy Schubert     BIGNUM *p = NULL, *q = NULL, *g = NULL, *priv = NULL, *pub = NULL, *priv2 = NULL;
333*e0c4386eSCy Schubert     BIGNUM *badq = NULL, *badpriv = NULL;
334*e0c4386eSCy Schubert     const unsigned char msg[] = { 0x00 };
335*e0c4386eSCy Schubert     unsigned int signature_len;
336*e0c4386eSCy Schubert     unsigned char signature[64];
337*e0c4386eSCy Schubert 
338*e0c4386eSCy Schubert     static unsigned char out_priv[] = {
339*e0c4386eSCy Schubert         0x17, 0x00, 0xb2, 0x8d, 0xcb, 0x24, 0xc9, 0x98,
340*e0c4386eSCy Schubert         0xd0, 0x7f, 0x1f, 0x83, 0x1a, 0xa1, 0xc4, 0xa4,
341*e0c4386eSCy Schubert         0xf8, 0x0f, 0x7f, 0x12
342*e0c4386eSCy Schubert     };
343*e0c4386eSCy Schubert     static unsigned char out_pub[] = {
344*e0c4386eSCy Schubert         0x04, 0x72, 0xee, 0x8d, 0xaa, 0x4d, 0x89, 0x60,
345*e0c4386eSCy Schubert         0x0e, 0xb2, 0xd4, 0x38, 0x84, 0xa2, 0x2a, 0x60,
346*e0c4386eSCy Schubert         0x5f, 0x67, 0xd7, 0x9e, 0x24, 0xdd, 0xe8, 0x50,
347*e0c4386eSCy Schubert         0xf2, 0x23, 0x71, 0x55, 0x53, 0x94, 0x0d, 0x6b,
348*e0c4386eSCy Schubert         0x2e, 0xcd, 0x30, 0xda, 0x6f, 0x1e, 0x2c, 0xcf,
349*e0c4386eSCy Schubert         0x59, 0xbe, 0x05, 0x6c, 0x07, 0x0e, 0xc6, 0x38,
350*e0c4386eSCy Schubert         0x05, 0xcb, 0x0c, 0x44, 0x0a, 0x08, 0x13, 0xb6,
351*e0c4386eSCy Schubert         0x0f, 0x14, 0xde, 0x4a, 0xf6, 0xed, 0x4e, 0xc3
352*e0c4386eSCy Schubert     };
353*e0c4386eSCy Schubert     if (!TEST_ptr(p = BN_bin2bn(out_p, sizeof(out_p), NULL))
354*e0c4386eSCy Schubert         || !TEST_ptr(q = BN_bin2bn(out_q, sizeof(out_q), NULL))
355*e0c4386eSCy Schubert         || !TEST_ptr(g = BN_bin2bn(out_g, sizeof(out_g), NULL))
356*e0c4386eSCy Schubert         || !TEST_ptr(pub = BN_bin2bn(out_pub, sizeof(out_pub), NULL))
357*e0c4386eSCy Schubert         || !TEST_ptr(priv = BN_bin2bn(out_priv, sizeof(out_priv), NULL))
358*e0c4386eSCy Schubert         || !TEST_ptr(priv2 = BN_dup(priv))
359*e0c4386eSCy Schubert         || !TEST_ptr(badq = BN_new())
360*e0c4386eSCy Schubert         || !TEST_true(BN_set_word(badq, 1))
361*e0c4386eSCy Schubert         || !TEST_ptr(badpriv = BN_new())
362*e0c4386eSCy Schubert         || !TEST_true(BN_set_word(badpriv, 0))
363*e0c4386eSCy Schubert         || !TEST_ptr(dsa = DSA_new()))
364*e0c4386eSCy Schubert         goto err;
365*e0c4386eSCy Schubert 
366*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_pqg(dsa, p, q, g)))
367*e0c4386eSCy Schubert         goto err;
368*e0c4386eSCy Schubert     p = q = g = NULL;
369*e0c4386eSCy Schubert 
370*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_key(dsa, pub, priv)))
371*e0c4386eSCy Schubert         goto err;
372*e0c4386eSCy Schubert     pub = priv = NULL;
373*e0c4386eSCy Schubert 
374*e0c4386eSCy Schubert     if (!TEST_int_le(DSA_size(dsa), sizeof(signature)))
375*e0c4386eSCy Schubert         goto err;
376*e0c4386eSCy Schubert 
377*e0c4386eSCy Schubert     /* Test passing signature as NULL */
378*e0c4386eSCy Schubert     if (!TEST_true(DSA_sign(0, msg, sizeof(msg), NULL, &signature_len, dsa)))
379*e0c4386eSCy Schubert         goto err;
380*e0c4386eSCy Schubert 
381*e0c4386eSCy Schubert     if (!TEST_true(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
382*e0c4386eSCy Schubert         goto err;
383*e0c4386eSCy Schubert 
384*e0c4386eSCy Schubert     /* Test using a private key of zero fails - this causes an infinite loop without the retry test */
385*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_key(dsa, NULL, badpriv)))
386*e0c4386eSCy Schubert         goto err;
387*e0c4386eSCy Schubert     badpriv = NULL;
388*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
389*e0c4386eSCy Schubert         goto err;
390*e0c4386eSCy Schubert 
391*e0c4386eSCy Schubert     /* Restore private and set a bad q - this caused an infinite loop in the setup */
392*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_key(dsa, NULL, priv2)))
393*e0c4386eSCy Schubert         goto err;
394*e0c4386eSCy Schubert     priv2 = NULL;
395*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_pqg(dsa, NULL, badq, NULL)))
396*e0c4386eSCy Schubert         goto err;
397*e0c4386eSCy Schubert     badq = NULL;
398*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
399*e0c4386eSCy Schubert         goto err;
400*e0c4386eSCy Schubert 
401*e0c4386eSCy Schubert     ret = 1;
402*e0c4386eSCy Schubert err:
403*e0c4386eSCy Schubert     BN_free(badq);
404*e0c4386eSCy Schubert     BN_free(badpriv);
405*e0c4386eSCy Schubert     BN_free(pub);
406*e0c4386eSCy Schubert     BN_free(priv);
407*e0c4386eSCy Schubert     BN_free(priv2);
408*e0c4386eSCy Schubert     BN_free(g);
409*e0c4386eSCy Schubert     BN_free(q);
410*e0c4386eSCy Schubert     BN_free(p);
411*e0c4386eSCy Schubert     DSA_free(dsa);
412*e0c4386eSCy Schubert     return ret;
413*e0c4386eSCy Schubert }
414*e0c4386eSCy Schubert 
test_dsa_sig_neg_param(void)415*e0c4386eSCy Schubert static int test_dsa_sig_neg_param(void)
416*e0c4386eSCy Schubert {
417*e0c4386eSCy Schubert     int ret = 0, setpqg = 0;
418*e0c4386eSCy Schubert     DSA *dsa = NULL;
419*e0c4386eSCy Schubert     BIGNUM *p = NULL, *q = NULL, *g = NULL, *priv = NULL, *pub = NULL;
420*e0c4386eSCy Schubert     const unsigned char msg[] = { 0x00 };
421*e0c4386eSCy Schubert     unsigned int signature_len;
422*e0c4386eSCy Schubert     unsigned char signature[64];
423*e0c4386eSCy Schubert 
424*e0c4386eSCy Schubert     static unsigned char out_priv[] = {
425*e0c4386eSCy Schubert         0x17, 0x00, 0xb2, 0x8d, 0xcb, 0x24, 0xc9, 0x98,
426*e0c4386eSCy Schubert         0xd0, 0x7f, 0x1f, 0x83, 0x1a, 0xa1, 0xc4, 0xa4,
427*e0c4386eSCy Schubert         0xf8, 0x0f, 0x7f, 0x12
428*e0c4386eSCy Schubert     };
429*e0c4386eSCy Schubert     static unsigned char out_pub[] = {
430*e0c4386eSCy Schubert         0x04, 0x72, 0xee, 0x8d, 0xaa, 0x4d, 0x89, 0x60,
431*e0c4386eSCy Schubert         0x0e, 0xb2, 0xd4, 0x38, 0x84, 0xa2, 0x2a, 0x60,
432*e0c4386eSCy Schubert         0x5f, 0x67, 0xd7, 0x9e, 0x24, 0xdd, 0xe8, 0x50,
433*e0c4386eSCy Schubert         0xf2, 0x23, 0x71, 0x55, 0x53, 0x94, 0x0d, 0x6b,
434*e0c4386eSCy Schubert         0x2e, 0xcd, 0x30, 0xda, 0x6f, 0x1e, 0x2c, 0xcf,
435*e0c4386eSCy Schubert         0x59, 0xbe, 0x05, 0x6c, 0x07, 0x0e, 0xc6, 0x38,
436*e0c4386eSCy Schubert         0x05, 0xcb, 0x0c, 0x44, 0x0a, 0x08, 0x13, 0xb6,
437*e0c4386eSCy Schubert         0x0f, 0x14, 0xde, 0x4a, 0xf6, 0xed, 0x4e, 0xc3
438*e0c4386eSCy Schubert     };
439*e0c4386eSCy Schubert     if (!TEST_ptr(p = BN_bin2bn(out_p, sizeof(out_p), NULL))
440*e0c4386eSCy Schubert         || !TEST_ptr(q = BN_bin2bn(out_q, sizeof(out_q), NULL))
441*e0c4386eSCy Schubert         || !TEST_ptr(g = BN_bin2bn(out_g, sizeof(out_g), NULL))
442*e0c4386eSCy Schubert         || !TEST_ptr(pub = BN_bin2bn(out_pub, sizeof(out_pub), NULL))
443*e0c4386eSCy Schubert         || !TEST_ptr(priv = BN_bin2bn(out_priv, sizeof(out_priv), NULL))
444*e0c4386eSCy Schubert         || !TEST_ptr(dsa = DSA_new()))
445*e0c4386eSCy Schubert         goto err;
446*e0c4386eSCy Schubert 
447*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_pqg(dsa, p, q, g)))
448*e0c4386eSCy Schubert         goto err;
449*e0c4386eSCy Schubert     setpqg = 1;
450*e0c4386eSCy Schubert 
451*e0c4386eSCy Schubert     if (!TEST_true(DSA_set0_key(dsa, pub, priv)))
452*e0c4386eSCy Schubert         goto err;
453*e0c4386eSCy Schubert     pub = priv = NULL;
454*e0c4386eSCy Schubert 
455*e0c4386eSCy Schubert     BN_set_negative(p, 1);
456*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
457*e0c4386eSCy Schubert         goto err;
458*e0c4386eSCy Schubert 
459*e0c4386eSCy Schubert     BN_set_negative(p, 0);
460*e0c4386eSCy Schubert     BN_set_negative(q, 1);
461*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
462*e0c4386eSCy Schubert         goto err;
463*e0c4386eSCy Schubert 
464*e0c4386eSCy Schubert     BN_set_negative(q, 0);
465*e0c4386eSCy Schubert     BN_set_negative(g, 1);
466*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
467*e0c4386eSCy Schubert         goto err;
468*e0c4386eSCy Schubert 
469*e0c4386eSCy Schubert     BN_set_negative(p, 1);
470*e0c4386eSCy Schubert     BN_set_negative(q, 1);
471*e0c4386eSCy Schubert     BN_set_negative(g, 1);
472*e0c4386eSCy Schubert     if (!TEST_false(DSA_sign(0, msg, sizeof(msg), signature, &signature_len, dsa)))
473*e0c4386eSCy Schubert         goto err;
474*e0c4386eSCy Schubert 
475*e0c4386eSCy Schubert     ret = 1;
476*e0c4386eSCy Schubert err:
477*e0c4386eSCy Schubert     BN_free(pub);
478*e0c4386eSCy Schubert     BN_free(priv);
479*e0c4386eSCy Schubert 
480*e0c4386eSCy Schubert     if (setpqg == 0) {
481*e0c4386eSCy Schubert         BN_free(g);
482*e0c4386eSCy Schubert         BN_free(q);
483*e0c4386eSCy Schubert         BN_free(p);
484*e0c4386eSCy Schubert     }
485*e0c4386eSCy Schubert     DSA_free(dsa);
486*e0c4386eSCy Schubert     return ret;
487*e0c4386eSCy Schubert }
488*e0c4386eSCy Schubert 
489*e0c4386eSCy Schubert #endif /* OPENSSL_NO_DSA */
490*e0c4386eSCy Schubert 
setup_tests(void)491*e0c4386eSCy Schubert int setup_tests(void)
492*e0c4386eSCy Schubert {
493*e0c4386eSCy Schubert #ifndef OPENSSL_NO_DSA
494*e0c4386eSCy Schubert     ADD_TEST(dsa_test);
495*e0c4386eSCy Schubert     ADD_TEST(dsa_keygen_test);
496*e0c4386eSCy Schubert     ADD_TEST(test_dsa_sig_infinite_loop);
497*e0c4386eSCy Schubert     ADD_TEST(test_dsa_sig_neg_param);
498*e0c4386eSCy Schubert     ADD_ALL_TESTS(test_dsa_default_paramgen_validate, 2);
499*e0c4386eSCy Schubert #endif
500*e0c4386eSCy Schubert     return 1;
501*e0c4386eSCy Schubert }
502