Shut down the connection in all "fatal" error cases.
[free-sw/xcb/libxcb] / src / xcb_conn.c
1 /* Copyright (C) 2001-2004 Bart Massey and Jamey Sharp.
2  *
3  * Permission is hereby granted, free of charge, to any person obtaining a
4  * copy of this software and associated documentation files (the "Software"),
5  * to deal in the Software without restriction, including without limitation
6  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
7  * and/or sell copies of the Software, and to permit persons to whom the
8  * Software is furnished to do so, subject to the following conditions:
9  * 
10  * The above copyright notice and this permission notice shall be included in
11  * all copies or substantial portions of the Software.
12  * 
13  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
14  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
15  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
16  * AUTHORS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
17  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
18  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
19  * 
20  * Except as contained in this notice, the names of the authors or their
21  * institutions shall not be used in advertising or otherwise to promote the
22  * sale, use or other dealings in this Software without prior written
23  * authorization from the authors.
24  */
25
26 /* Connection management: the core of XCB. */
27
28 #include <assert.h>
29 #include <string.h>
30 #include <stdio.h>
31 #include <unistd.h>
32 #include <stdlib.h>
33 #include <netinet/in.h>
34 #include <sys/select.h>
35 #include <fcntl.h>
36 #include <errno.h>
37
38 #include "xcb.h"
39 #include "xcbint.h"
40
41 typedef struct {
42     CARD8  status;
43     CARD8  pad0[5];
44     CARD16 length;
45 } XCBSetupGeneric;
46
47 static const int error_connection = 1;
48
49 static int set_fd_flags(const int fd)
50 {
51     long flags = fcntl(fd, F_GETFL, 0);
52     if(flags == -1)
53         return 0;
54     flags |= O_NONBLOCK;
55     if(fcntl(fd, F_SETFL, flags) == -1)
56         return 0;
57     if(fcntl(fd, F_SETFD, FD_CLOEXEC) == -1)
58         return 0;
59     return 1;
60 }
61
62 static int write_setup(XCBConnection *c, XCBAuthInfo *auth_info)
63 {
64     static const char pad[3];
65     XCBSetupReq out;
66     struct iovec parts[6];
67     int count = 0;
68     int endian = 0x01020304;
69     int ret;
70
71     memset(&out, 0, sizeof(out));
72
73     /* B = 0x42 = MSB first, l = 0x6c = LSB first */
74     if(htonl(endian) == endian)
75         out.byte_order = 0x42;
76     else
77         out.byte_order = 0x6c;
78     out.protocol_major_version = X_PROTOCOL;
79     out.protocol_minor_version = X_PROTOCOL_REVISION;
80     out.authorization_protocol_name_len = 0;
81     out.authorization_protocol_data_len = 0;
82     parts[count].iov_len = sizeof(XCBSetupReq);
83     parts[count++].iov_base = &out;
84     parts[count].iov_len = XCB_PAD(sizeof(XCBSetupReq));
85     parts[count++].iov_base = (char *) pad;
86
87     if(auth_info)
88     {
89         parts[count].iov_len = out.authorization_protocol_name_len = auth_info->namelen;
90         parts[count++].iov_base = auth_info->name;
91         parts[count].iov_len = XCB_PAD(out.authorization_protocol_name_len);
92         parts[count++].iov_base = (char *) pad;
93         parts[count].iov_len = out.authorization_protocol_data_len = auth_info->datalen;
94         parts[count++].iov_base = auth_info->data;
95         parts[count].iov_len = XCB_PAD(out.authorization_protocol_data_len);
96         parts[count++].iov_base = (char *) pad;
97     }
98     assert(count <= sizeof(parts) / sizeof(*parts));
99
100     pthread_mutex_lock(&c->iolock);
101     {
102         struct iovec *parts_ptr = parts;
103         ret = _xcb_out_send(c, &parts_ptr, &count);
104     }
105     pthread_mutex_unlock(&c->iolock);
106     return ret;
107 }
108
109 static int read_setup(XCBConnection *c)
110 {
111     /* Read the server response */
112     c->setup = malloc(sizeof(XCBSetupGeneric));
113     if(!c->setup)
114         return 0;
115
116     if(_xcb_in_read_block(c, c->setup, sizeof(XCBSetupGeneric)) != sizeof(XCBSetupGeneric))
117         return 0;
118
119     {
120         void *tmp = realloc(c->setup, c->setup->length * 4 + sizeof(XCBSetupGeneric));
121         if(!tmp)
122             return 0;
123         c->setup = tmp;
124     }
125
126     if(_xcb_in_read_block(c, (char *) c->setup + sizeof(XCBSetupGeneric), c->setup->length * 4) <= 0)
127         return 0;
128
129     /* 0 = failed, 2 = authenticate, 1 = success */
130     switch(c->setup->status)
131     {
132     case 0: /* failed */
133         {
134             XCBSetupFailed *setup = (XCBSetupFailed *) c->setup;
135             write(STDERR_FILENO, XCBSetupFailedReason(setup), XCBSetupFailedReasonLength(setup));
136             return 0;
137         }
138
139     case 2: /* authenticate */
140         {
141             XCBSetupAuthenticate *setup = (XCBSetupAuthenticate *) c->setup;
142             write(STDERR_FILENO, XCBSetupAuthenticateReason(setup), XCBSetupAuthenticateReasonLength(setup));
143             return 0;
144         }
145     }
146
147     return 1;
148 }
149
150 /* precondition: there must be something for us to write. */
151 static int write_vec(XCBConnection *c, struct iovec **vector, int *count)
152 {
153     int n;
154     assert(!c->out.queue_len);
155     n = writev(c->fd, *vector, *count);
156     if(n < 0 && errno == EAGAIN)
157         return 1;
158     if(n <= 0)
159     {
160         _xcb_conn_shutdown(c);
161         return 0;
162     }
163
164     for(; *count; --*count, ++*vector)
165     {
166         int cur = (*vector)->iov_len;
167         if(cur > n)
168             cur = n;
169         (*vector)->iov_len -= cur;
170         (*vector)->iov_base = (char *) (*vector)->iov_base + cur;
171         n -= cur;
172         if((*vector)->iov_len)
173             break;
174     }
175     if(!*count)
176         *vector = 0;
177     assert(n == 0);
178     return 1;
179 }
180
181 /* Public interface */
182
183 const XCBSetup *XCBGetSetup(XCBConnection *c)
184 {
185     if(c->has_error)
186         return 0;
187     /* doesn't need locking because it's never written to. */
188     return c->setup;
189 }
190
191 int XCBGetFileDescriptor(XCBConnection *c)
192 {
193     if(c->has_error)
194         return -1;
195     /* doesn't need locking because it's never written to. */
196     return c->fd;
197 }
198
199 int XCBConnectionHasError(XCBConnection *c)
200 {
201     /* doesn't need locking because it's read and written atomically. */
202     return c->has_error;
203 }
204
205 XCBConnection *XCBConnectToFD(int fd, XCBAuthInfo *auth_info)
206 {
207     XCBConnection* c;
208
209     c = calloc(1, sizeof(XCBConnection));
210     if(!c)
211         return (XCBConnection *) &error_connection;
212
213     c->fd = fd;
214
215     if(!(
216         set_fd_flags(fd) &&
217         pthread_mutex_init(&c->iolock, 0) == 0 &&
218         _xcb_in_init(&c->in) &&
219         _xcb_out_init(&c->out) &&
220         write_setup(c, auth_info) &&
221         read_setup(c) &&
222         _xcb_ext_init(c) &&
223         _xcb_xid_init(c)
224         ))
225     {
226         XCBDisconnect(c);
227         return (XCBConnection *) &error_connection;
228     }
229
230     return c;
231 }
232
233 void XCBDisconnect(XCBConnection *c)
234 {
235     if(c->has_error)
236         return;
237
238     free(c->setup);
239     close(c->fd);
240
241     pthread_mutex_destroy(&c->iolock);
242     _xcb_in_destroy(&c->in);
243     _xcb_out_destroy(&c->out);
244
245     _xcb_ext_destroy(c);
246     _xcb_xid_destroy(c);
247
248     free(c);
249 }
250
251 /* Private interface */
252
253 void _xcb_conn_shutdown(XCBConnection *c)
254 {
255     c->has_error = 1;
256 }
257
258 int _xcb_conn_wait(XCBConnection *c, pthread_cond_t *cond, struct iovec **vector, int *count)
259 {
260     int ret;
261     fd_set rfds, wfds;
262
263     /* If the thing I should be doing is already being done, wait for it. */
264     if(count ? c->out.writing : c->in.reading)
265     {
266         pthread_cond_wait(cond, &c->iolock);
267         return 1;
268     }
269
270     FD_ZERO(&rfds);
271     FD_SET(c->fd, &rfds);
272     ++c->in.reading;
273
274     FD_ZERO(&wfds);
275     if(count)
276     {
277         FD_SET(c->fd, &wfds);
278         ++c->out.writing;
279     }
280
281     pthread_mutex_unlock(&c->iolock);
282     do {
283         ret = select(c->fd + 1, &rfds, &wfds, 0, 0);
284     } while (ret == -1 && errno == EINTR);
285     if (ret < 0)
286     {
287         _xcb_conn_shutdown(c);
288         ret = 0;
289     }
290     pthread_mutex_lock(&c->iolock);
291
292     if(ret)
293     {
294         if(FD_ISSET(c->fd, &rfds))
295             ret = ret && _xcb_in_read(c);
296
297         if(FD_ISSET(c->fd, &wfds))
298             ret = ret && write_vec(c, vector, count);
299     }
300
301     if(count)
302         --c->out.writing;
303     --c->in.reading;
304
305     return ret;
306 }