xref: /original-bsd/usr.bin/window/wwopen.c (revision 65d10654)
1 /*
2  * Copyright (c) 1983, 1993
3  *	The Regents of the University of California.  All rights reserved.
4  *
5  * This code is derived from software contributed to Berkeley by
6  * Edward Wang at The University of California, Berkeley.
7  *
8  * %sccs.include.redist.c%
9  */
10 
11 #ifndef lint
12 static char sccsid[] = "@(#)wwopen.c	8.2 (Berkeley) 04/28/95";
13 #endif /* not lint */
14 
15 #include "ww.h"
16 #include <sys/types.h>
17 #include <sys/socket.h>
18 #include <fcntl.h>
19 
20 struct ww *
21 wwopen(flags, nrow, ncol, row, col, nline)
22 {
23 	register struct ww *w;
24 	register i, j;
25 	char m;
26 	short nvis;
27 
28 	w = (struct ww *)calloc(sizeof (struct ww), 1);
29 	if (w == 0) {
30 		wwerrno = WWE_NOMEM;
31 		goto bad;
32 	}
33 	w->ww_pty = -1;
34 	w->ww_socket = -1;
35 
36 	for (i = 0; i < NWW && wwindex[i] != 0; i++)
37 		;
38 	if (i >= NWW) {
39 		wwerrno = WWE_TOOMANY;
40 		goto bad;
41 	}
42 	w->ww_index = i;
43 
44 	if (nline < nrow)
45 		nline = nrow;
46 
47 	w->ww_w.t = row;
48 	w->ww_w.b = row + nrow;
49 	w->ww_w.l = col;
50 	w->ww_w.r = col + ncol;
51 	w->ww_w.nr = nrow;
52 	w->ww_w.nc = ncol;
53 
54 	w->ww_b.t = row;
55 	w->ww_b.b = row + nline;
56 	w->ww_b.l = col;
57 	w->ww_b.r = col + ncol;
58 	w->ww_b.nr = nline;
59 	w->ww_b.nc = ncol;
60 
61 	w->ww_i.t = MAX(w->ww_w.t, 0);
62 	w->ww_i.b = MIN(w->ww_w.b, wwnrow);
63 	w->ww_i.l = MAX(w->ww_w.l, 0);
64 	w->ww_i.r = MIN(w->ww_w.r, wwncol);
65 	w->ww_i.nr = w->ww_i.b - w->ww_i.t;
66 	w->ww_i.nc = w->ww_i.r - w->ww_i.l;
67 
68 	w->ww_cur.r = w->ww_w.t;
69 	w->ww_cur.c = w->ww_w.l;
70 
71 	if (flags & WWO_PTY) {
72 		if (wwgetpty(w) < 0)
73 			goto bad;
74 		w->ww_ispty = 1;
75 	} else if (flags & WWO_SOCKET) {
76 		int d[2];
77 		if (socketpair(AF_UNIX, SOCK_STREAM, PF_UNSPEC, d) < 0) {
78 			wwerrno = WWE_SYS;
79 			goto bad;
80 		}
81 		(void) fcntl(d[0], F_SETFD, 1);
82 		(void) fcntl(d[1], F_SETFD, 1);
83 		w->ww_pty = d[0];
84 		w->ww_socket = d[1];
85 	}
86 	if (flags & (WWO_PTY|WWO_SOCKET)) {
87 		if ((w->ww_ob = malloc(512)) == 0) {
88 			wwerrno = WWE_NOMEM;
89 			goto bad;
90 		}
91 		w->ww_obe = w->ww_ob + 512;
92 		w->ww_obp = w->ww_obq = w->ww_ob;
93 		if (w->ww_pty >= wwdtablesize)
94 			wwdtablesize = w->ww_pty + 1;
95 	}
96 
97 	w->ww_win = wwalloc(w->ww_w.t, w->ww_w.l,
98 		w->ww_w.nr, w->ww_w.nc, sizeof (char));
99 	if (w->ww_win == 0)
100 		goto bad;
101 	m = 0;
102 	if (flags & WWO_GLASS)
103 		m |= WWM_GLS;
104 	if (flags & WWO_REVERSE)
105 		if (wwavailmodes & WWM_REV)
106 			m |= WWM_REV;
107 		else
108 			flags &= ~WWO_REVERSE;
109 	for (i = w->ww_w.t; i < w->ww_w.b; i++)
110 		for (j = w->ww_w.l; j < w->ww_w.r; j++)
111 			w->ww_win[i][j] = m;
112 
113 	if (flags & WWO_FRAME) {
114 		w->ww_fmap = wwalloc(w->ww_w.t, w->ww_w.l,
115 			w->ww_w.nr, w->ww_w.nc, sizeof (char));
116 		if (w->ww_fmap == 0)
117 			goto bad;
118 		for (i = w->ww_w.t; i < w->ww_w.b; i++)
119 			for (j = w->ww_w.l; j < w->ww_w.r; j++)
120 				w->ww_fmap[i][j] = 0;
121 	}
122 
123 	w->ww_buf = (union ww_char **)
124 		wwalloc(w->ww_b.t, w->ww_b.l,
125 			w->ww_b.nr, w->ww_b.nc, sizeof (union ww_char));
126 	if (w->ww_buf == 0)
127 		goto bad;
128 	for (i = w->ww_b.t; i < w->ww_b.b; i++)
129 		for (j = w->ww_b.l; j < w->ww_b.r; j++)
130 			w->ww_buf[i][j].c_w = ' ';
131 
132 	w->ww_nvis = (short *)malloc((unsigned) w->ww_w.nr * sizeof (short));
133 	if (w->ww_nvis == 0) {
134 		wwerrno = WWE_NOMEM;
135 		goto bad;
136 	}
137 	w->ww_nvis -= w->ww_w.t;
138 	nvis = m ? 0 : w->ww_w.nc;
139 	for (i = w->ww_w.t; i < w->ww_w.b; i++)
140 		w->ww_nvis[i] = nvis;
141 
142 	w->ww_state = WWS_INITIAL;
143 	w->ww_oflags = flags;
144 	return wwindex[w->ww_index] = w;
145 bad:
146 	if (w != 0) {
147 		if (w->ww_win != 0)
148 			wwfree(w->ww_win, w->ww_w.t);
149 		if (w->ww_fmap != 0)
150 			wwfree(w->ww_fmap, w->ww_w.t);
151 		if (w->ww_buf != 0)
152 			wwfree((char **)w->ww_buf, w->ww_b.t);
153 		if (w->ww_nvis != 0)
154 			free((char *)(w->ww_nvis + w->ww_w.t));
155 		if (w->ww_ob != 0)
156 			free(w->ww_ob);
157 		if (w->ww_pty >= 0)
158 			(void) close(w->ww_pty);
159 		if (w->ww_socket >= 0)
160 			(void) close(w->ww_socket);
161 		free((char *)w);
162 	}
163 	return 0;
164 }
165