mac80211: add fast-rx path
[cascardo/linux.git] / net / mac80211 / sta_info.c
1 /*
2  * Copyright 2002-2005, Instant802 Networks, Inc.
3  * Copyright 2006-2007  Jiri Benc <jbenc@suse.cz>
4  * Copyright 2013-2014  Intel Mobile Communications GmbH
5  * Copyright (C) 2015 - 2016 Intel Deutschland GmbH
6  *
7  * This program is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License version 2 as
9  * published by the Free Software Foundation.
10  */
11
12 #include <linux/module.h>
13 #include <linux/init.h>
14 #include <linux/etherdevice.h>
15 #include <linux/netdevice.h>
16 #include <linux/types.h>
17 #include <linux/slab.h>
18 #include <linux/skbuff.h>
19 #include <linux/if_arp.h>
20 #include <linux/timer.h>
21 #include <linux/rtnetlink.h>
22
23 #include <net/mac80211.h>
24 #include "ieee80211_i.h"
25 #include "driver-ops.h"
26 #include "rate.h"
27 #include "sta_info.h"
28 #include "debugfs_sta.h"
29 #include "mesh.h"
30 #include "wme.h"
31
32 /**
33  * DOC: STA information lifetime rules
34  *
35  * STA info structures (&struct sta_info) are managed in a hash table
36  * for faster lookup and a list for iteration. They are managed using
37  * RCU, i.e. access to the list and hash table is protected by RCU.
38  *
39  * Upon allocating a STA info structure with sta_info_alloc(), the caller
40  * owns that structure. It must then insert it into the hash table using
41  * either sta_info_insert() or sta_info_insert_rcu(); only in the latter
42  * case (which acquires an rcu read section but must not be called from
43  * within one) will the pointer still be valid after the call. Note that
44  * the caller may not do much with the STA info before inserting it, in
45  * particular, it may not start any mesh peer link management or add
46  * encryption keys.
47  *
48  * When the insertion fails (sta_info_insert()) returns non-zero), the
49  * structure will have been freed by sta_info_insert()!
50  *
51  * Station entries are added by mac80211 when you establish a link with a
52  * peer. This means different things for the different type of interfaces
53  * we support. For a regular station this mean we add the AP sta when we
54  * receive an association response from the AP. For IBSS this occurs when
55  * get to know about a peer on the same IBSS. For WDS we add the sta for
56  * the peer immediately upon device open. When using AP mode we add stations
57  * for each respective station upon request from userspace through nl80211.
58  *
59  * In order to remove a STA info structure, various sta_info_destroy_*()
60  * calls are available.
61  *
62  * There is no concept of ownership on a STA entry, each structure is
63  * owned by the global hash table/list until it is removed. All users of
64  * the structure need to be RCU protected so that the structure won't be
65  * freed before they are done using it.
66  */
67
68 static const struct rhashtable_params sta_rht_params = {
69         .nelem_hint = 3, /* start small */
70         .automatic_shrinking = true,
71         .head_offset = offsetof(struct sta_info, hash_node),
72         .key_offset = offsetof(struct sta_info, addr),
73         .key_len = ETH_ALEN,
74         .hashfn = sta_addr_hash,
75         .max_size = CONFIG_MAC80211_STA_HASH_MAX_SIZE,
76 };
77
78 /* Caller must hold local->sta_mtx */
79 static int sta_info_hash_del(struct ieee80211_local *local,
80                              struct sta_info *sta)
81 {
82         return rhashtable_remove_fast(&local->sta_hash, &sta->hash_node,
83                                       sta_rht_params);
84 }
85
86 static void __cleanup_single_sta(struct sta_info *sta)
87 {
88         int ac, i;
89         struct tid_ampdu_tx *tid_tx;
90         struct ieee80211_sub_if_data *sdata = sta->sdata;
91         struct ieee80211_local *local = sdata->local;
92         struct ps_data *ps;
93
94         if (test_sta_flag(sta, WLAN_STA_PS_STA) ||
95             test_sta_flag(sta, WLAN_STA_PS_DRIVER) ||
96             test_sta_flag(sta, WLAN_STA_PS_DELIVER)) {
97                 if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
98                     sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
99                         ps = &sdata->bss->ps;
100                 else if (ieee80211_vif_is_mesh(&sdata->vif))
101                         ps = &sdata->u.mesh.ps;
102                 else
103                         return;
104
105                 clear_sta_flag(sta, WLAN_STA_PS_STA);
106                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
107                 clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
108
109                 atomic_dec(&ps->num_sta_ps);
110         }
111
112         if (sta->sta.txq[0]) {
113                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
114                         struct txq_info *txqi = to_txq_info(sta->sta.txq[i]);
115                         int n = skb_queue_len(&txqi->queue);
116
117                         ieee80211_purge_tx_queue(&local->hw, &txqi->queue);
118                         atomic_sub(n, &sdata->txqs_len[txqi->txq.ac]);
119                         txqi->byte_cnt = 0;
120                 }
121         }
122
123         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
124                 local->total_ps_buffered -= skb_queue_len(&sta->ps_tx_buf[ac]);
125                 ieee80211_purge_tx_queue(&local->hw, &sta->ps_tx_buf[ac]);
126                 ieee80211_purge_tx_queue(&local->hw, &sta->tx_filtered[ac]);
127         }
128
129         if (ieee80211_vif_is_mesh(&sdata->vif))
130                 mesh_sta_cleanup(sta);
131
132         cancel_work_sync(&sta->drv_deliver_wk);
133
134         /*
135          * Destroy aggregation state here. It would be nice to wait for the
136          * driver to finish aggregation stop and then clean up, but for now
137          * drivers have to handle aggregation stop being requested, followed
138          * directly by station destruction.
139          */
140         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
141                 kfree(sta->ampdu_mlme.tid_start_tx[i]);
142                 tid_tx = rcu_dereference_raw(sta->ampdu_mlme.tid_tx[i]);
143                 if (!tid_tx)
144                         continue;
145                 ieee80211_purge_tx_queue(&local->hw, &tid_tx->pending);
146                 kfree(tid_tx);
147         }
148 }
149
150 static void cleanup_single_sta(struct sta_info *sta)
151 {
152         struct ieee80211_sub_if_data *sdata = sta->sdata;
153         struct ieee80211_local *local = sdata->local;
154
155         __cleanup_single_sta(sta);
156         sta_info_free(local, sta);
157 }
158
159 /* protected by RCU */
160 struct sta_info *sta_info_get(struct ieee80211_sub_if_data *sdata,
161                               const u8 *addr)
162 {
163         struct ieee80211_local *local = sdata->local;
164         struct sta_info *sta;
165         struct rhash_head *tmp;
166         const struct bucket_table *tbl;
167
168         rcu_read_lock();
169         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
170
171         for_each_sta_info(local, tbl, addr, sta, tmp) {
172                 if (sta->sdata == sdata) {
173                         rcu_read_unlock();
174                         /* this is safe as the caller must already hold
175                          * another rcu read section or the mutex
176                          */
177                         return sta;
178                 }
179         }
180         rcu_read_unlock();
181         return NULL;
182 }
183
184 /*
185  * Get sta info either from the specified interface
186  * or from one of its vlans
187  */
188 struct sta_info *sta_info_get_bss(struct ieee80211_sub_if_data *sdata,
189                                   const u8 *addr)
190 {
191         struct ieee80211_local *local = sdata->local;
192         struct sta_info *sta;
193         struct rhash_head *tmp;
194         const struct bucket_table *tbl;
195
196         rcu_read_lock();
197         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
198
199         for_each_sta_info(local, tbl, addr, sta, tmp) {
200                 if (sta->sdata == sdata ||
201                     (sta->sdata->bss && sta->sdata->bss == sdata->bss)) {
202                         rcu_read_unlock();
203                         /* this is safe as the caller must already hold
204                          * another rcu read section or the mutex
205                          */
206                         return sta;
207                 }
208         }
209         rcu_read_unlock();
210         return NULL;
211 }
212
213 struct sta_info *sta_info_get_by_idx(struct ieee80211_sub_if_data *sdata,
214                                      int idx)
215 {
216         struct ieee80211_local *local = sdata->local;
217         struct sta_info *sta;
218         int i = 0;
219
220         list_for_each_entry_rcu(sta, &local->sta_list, list) {
221                 if (sdata != sta->sdata)
222                         continue;
223                 if (i < idx) {
224                         ++i;
225                         continue;
226                 }
227                 return sta;
228         }
229
230         return NULL;
231 }
232
233 /**
234  * sta_info_free - free STA
235  *
236  * @local: pointer to the global information
237  * @sta: STA info to free
238  *
239  * This function must undo everything done by sta_info_alloc()
240  * that may happen before sta_info_insert(). It may only be
241  * called when sta_info_insert() has not been attempted (and
242  * if that fails, the station is freed anyway.)
243  */
244 void sta_info_free(struct ieee80211_local *local, struct sta_info *sta)
245 {
246         if (sta->rate_ctrl)
247                 rate_control_free_sta(sta);
248
249         sta_dbg(sta->sdata, "Destroyed STA %pM\n", sta->sta.addr);
250
251         if (sta->sta.txq[0])
252                 kfree(to_txq_info(sta->sta.txq[0]));
253         kfree(rcu_dereference_raw(sta->sta.rates));
254 #ifdef CONFIG_MAC80211_MESH
255         kfree(sta->mesh);
256 #endif
257         kfree(sta);
258 }
259
260 /* Caller must hold local->sta_mtx */
261 static void sta_info_hash_add(struct ieee80211_local *local,
262                               struct sta_info *sta)
263 {
264         rhashtable_insert_fast(&local->sta_hash, &sta->hash_node,
265                                sta_rht_params);
266 }
267
268 static void sta_deliver_ps_frames(struct work_struct *wk)
269 {
270         struct sta_info *sta;
271
272         sta = container_of(wk, struct sta_info, drv_deliver_wk);
273
274         if (sta->dead)
275                 return;
276
277         local_bh_disable();
278         if (!test_sta_flag(sta, WLAN_STA_PS_STA))
279                 ieee80211_sta_ps_deliver_wakeup(sta);
280         else if (test_and_clear_sta_flag(sta, WLAN_STA_PSPOLL))
281                 ieee80211_sta_ps_deliver_poll_response(sta);
282         else if (test_and_clear_sta_flag(sta, WLAN_STA_UAPSD))
283                 ieee80211_sta_ps_deliver_uapsd(sta);
284         local_bh_enable();
285 }
286
287 static int sta_prepare_rate_control(struct ieee80211_local *local,
288                                     struct sta_info *sta, gfp_t gfp)
289 {
290         if (ieee80211_hw_check(&local->hw, HAS_RATE_CONTROL))
291                 return 0;
292
293         sta->rate_ctrl = local->rate_ctrl;
294         sta->rate_ctrl_priv = rate_control_alloc_sta(sta->rate_ctrl,
295                                                      sta, gfp);
296         if (!sta->rate_ctrl_priv)
297                 return -ENOMEM;
298
299         return 0;
300 }
301
302 struct sta_info *sta_info_alloc(struct ieee80211_sub_if_data *sdata,
303                                 const u8 *addr, gfp_t gfp)
304 {
305         struct ieee80211_local *local = sdata->local;
306         struct ieee80211_hw *hw = &local->hw;
307         struct sta_info *sta;
308         int i;
309
310         sta = kzalloc(sizeof(*sta) + hw->sta_data_size, gfp);
311         if (!sta)
312                 return NULL;
313
314         spin_lock_init(&sta->lock);
315         spin_lock_init(&sta->ps_lock);
316         INIT_WORK(&sta->drv_deliver_wk, sta_deliver_ps_frames);
317         INIT_WORK(&sta->ampdu_mlme.work, ieee80211_ba_session_work);
318         mutex_init(&sta->ampdu_mlme.mtx);
319 #ifdef CONFIG_MAC80211_MESH
320         if (ieee80211_vif_is_mesh(&sdata->vif)) {
321                 sta->mesh = kzalloc(sizeof(*sta->mesh), gfp);
322                 if (!sta->mesh)
323                         goto free;
324                 spin_lock_init(&sta->mesh->plink_lock);
325                 if (ieee80211_vif_is_mesh(&sdata->vif) &&
326                     !sdata->u.mesh.user_mpm)
327                         init_timer(&sta->mesh->plink_timer);
328                 sta->mesh->nonpeer_pm = NL80211_MESH_POWER_ACTIVE;
329         }
330 #endif
331
332         memcpy(sta->addr, addr, ETH_ALEN);
333         memcpy(sta->sta.addr, addr, ETH_ALEN);
334         sta->local = local;
335         sta->sdata = sdata;
336         sta->rx_stats.last_rx = jiffies;
337
338         u64_stats_init(&sta->rx_stats.syncp);
339
340         sta->sta_state = IEEE80211_STA_NONE;
341
342         /* Mark TID as unreserved */
343         sta->reserved_tid = IEEE80211_TID_UNRESERVED;
344
345         sta->last_connected = ktime_get_seconds();
346         ewma_signal_init(&sta->rx_stats_avg.signal);
347         for (i = 0; i < ARRAY_SIZE(sta->rx_stats_avg.chain_signal); i++)
348                 ewma_signal_init(&sta->rx_stats_avg.chain_signal[i]);
349
350         if (local->ops->wake_tx_queue) {
351                 void *txq_data;
352                 int size = sizeof(struct txq_info) +
353                            ALIGN(hw->txq_data_size, sizeof(void *));
354
355                 txq_data = kcalloc(ARRAY_SIZE(sta->sta.txq), size, gfp);
356                 if (!txq_data)
357                         goto free;
358
359                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
360                         struct txq_info *txq = txq_data + i * size;
361
362                         ieee80211_init_tx_queue(sdata, sta, txq, i);
363                 }
364         }
365
366         if (sta_prepare_rate_control(local, sta, gfp))
367                 goto free_txq;
368
369         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
370                 /*
371                  * timer_to_tid must be initialized with identity mapping
372                  * to enable session_timer's data differentiation. See
373                  * sta_rx_agg_session_timer_expired for usage.
374                  */
375                 sta->timer_to_tid[i] = i;
376         }
377         for (i = 0; i < IEEE80211_NUM_ACS; i++) {
378                 skb_queue_head_init(&sta->ps_tx_buf[i]);
379                 skb_queue_head_init(&sta->tx_filtered[i]);
380         }
381
382         for (i = 0; i < IEEE80211_NUM_TIDS; i++)
383                 sta->last_seq_ctrl[i] = cpu_to_le16(USHRT_MAX);
384
385         sta->sta.smps_mode = IEEE80211_SMPS_OFF;
386         if (sdata->vif.type == NL80211_IFTYPE_AP ||
387             sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
388                 struct ieee80211_supported_band *sband =
389                         hw->wiphy->bands[ieee80211_get_sdata_band(sdata)];
390                 u8 smps = (sband->ht_cap.cap & IEEE80211_HT_CAP_SM_PS) >>
391                                 IEEE80211_HT_CAP_SM_PS_SHIFT;
392                 /*
393                  * Assume that hostapd advertises our caps in the beacon and
394                  * this is the known_smps_mode for a station that just assciated
395                  */
396                 switch (smps) {
397                 case WLAN_HT_SMPS_CONTROL_DISABLED:
398                         sta->known_smps_mode = IEEE80211_SMPS_OFF;
399                         break;
400                 case WLAN_HT_SMPS_CONTROL_STATIC:
401                         sta->known_smps_mode = IEEE80211_SMPS_STATIC;
402                         break;
403                 case WLAN_HT_SMPS_CONTROL_DYNAMIC:
404                         sta->known_smps_mode = IEEE80211_SMPS_DYNAMIC;
405                         break;
406                 default:
407                         WARN_ON(1);
408                 }
409         }
410
411         sta_dbg(sdata, "Allocated STA %pM\n", sta->sta.addr);
412
413         return sta;
414
415 free_txq:
416         if (sta->sta.txq[0])
417                 kfree(to_txq_info(sta->sta.txq[0]));
418 free:
419 #ifdef CONFIG_MAC80211_MESH
420         kfree(sta->mesh);
421 #endif
422         kfree(sta);
423         return NULL;
424 }
425
426 static int sta_info_insert_check(struct sta_info *sta)
427 {
428         struct ieee80211_sub_if_data *sdata = sta->sdata;
429
430         /*
431          * Can't be a WARN_ON because it can be triggered through a race:
432          * something inserts a STA (on one CPU) without holding the RTNL
433          * and another CPU turns off the net device.
434          */
435         if (unlikely(!ieee80211_sdata_running(sdata)))
436                 return -ENETDOWN;
437
438         if (WARN_ON(ether_addr_equal(sta->sta.addr, sdata->vif.addr) ||
439                     is_multicast_ether_addr(sta->sta.addr)))
440                 return -EINVAL;
441
442         /* Strictly speaking this isn't necessary as we hold the mutex, but
443          * the rhashtable code can't really deal with that distinction. We
444          * do require the mutex for correctness though.
445          */
446         rcu_read_lock();
447         lockdep_assert_held(&sdata->local->sta_mtx);
448         if (ieee80211_hw_check(&sdata->local->hw, NEEDS_UNIQUE_STA_ADDR) &&
449             ieee80211_find_sta_by_ifaddr(&sdata->local->hw, sta->addr, NULL)) {
450                 rcu_read_unlock();
451                 return -ENOTUNIQ;
452         }
453         rcu_read_unlock();
454
455         return 0;
456 }
457
458 static int sta_info_insert_drv_state(struct ieee80211_local *local,
459                                      struct ieee80211_sub_if_data *sdata,
460                                      struct sta_info *sta)
461 {
462         enum ieee80211_sta_state state;
463         int err = 0;
464
465         for (state = IEEE80211_STA_NOTEXIST; state < sta->sta_state; state++) {
466                 err = drv_sta_state(local, sdata, sta, state, state + 1);
467                 if (err)
468                         break;
469         }
470
471         if (!err) {
472                 /*
473                  * Drivers using legacy sta_add/sta_remove callbacks only
474                  * get uploaded set to true after sta_add is called.
475                  */
476                 if (!local->ops->sta_add)
477                         sta->uploaded = true;
478                 return 0;
479         }
480
481         if (sdata->vif.type == NL80211_IFTYPE_ADHOC) {
482                 sdata_info(sdata,
483                            "failed to move IBSS STA %pM to state %d (%d) - keeping it anyway\n",
484                            sta->sta.addr, state + 1, err);
485                 err = 0;
486         }
487
488         /* unwind on error */
489         for (; state > IEEE80211_STA_NOTEXIST; state--)
490                 WARN_ON(drv_sta_state(local, sdata, sta, state, state - 1));
491
492         return err;
493 }
494
495 /*
496  * should be called with sta_mtx locked
497  * this function replaces the mutex lock
498  * with a RCU lock
499  */
500 static int sta_info_insert_finish(struct sta_info *sta) __acquires(RCU)
501 {
502         struct ieee80211_local *local = sta->local;
503         struct ieee80211_sub_if_data *sdata = sta->sdata;
504         struct station_info *sinfo;
505         int err = 0;
506
507         lockdep_assert_held(&local->sta_mtx);
508
509         sinfo = kzalloc(sizeof(struct station_info), GFP_KERNEL);
510         if (!sinfo) {
511                 err = -ENOMEM;
512                 goto out_err;
513         }
514
515         /* check if STA exists already */
516         if (sta_info_get_bss(sdata, sta->sta.addr)) {
517                 err = -EEXIST;
518                 goto out_err;
519         }
520
521         local->num_sta++;
522         local->sta_generation++;
523         smp_mb();
524
525         /* simplify things and don't accept BA sessions yet */
526         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
527
528         /* make the station visible */
529         sta_info_hash_add(local, sta);
530
531         list_add_tail_rcu(&sta->list, &local->sta_list);
532
533         /* notify driver */
534         err = sta_info_insert_drv_state(local, sdata, sta);
535         if (err)
536                 goto out_remove;
537
538         set_sta_flag(sta, WLAN_STA_INSERTED);
539         /* accept BA sessions now */
540         clear_sta_flag(sta, WLAN_STA_BLOCK_BA);
541
542         ieee80211_sta_debugfs_add(sta);
543         rate_control_add_sta_debugfs(sta);
544
545         sinfo->generation = local->sta_generation;
546         cfg80211_new_sta(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
547         kfree(sinfo);
548
549         sta_dbg(sdata, "Inserted STA %pM\n", sta->sta.addr);
550
551         /* move reference to rcu-protected */
552         rcu_read_lock();
553         mutex_unlock(&local->sta_mtx);
554
555         if (ieee80211_vif_is_mesh(&sdata->vif))
556                 mesh_accept_plinks_update(sdata);
557
558         return 0;
559  out_remove:
560         sta_info_hash_del(local, sta);
561         list_del_rcu(&sta->list);
562         local->num_sta--;
563         synchronize_net();
564         __cleanup_single_sta(sta);
565  out_err:
566         mutex_unlock(&local->sta_mtx);
567         kfree(sinfo);
568         rcu_read_lock();
569         return err;
570 }
571
572 int sta_info_insert_rcu(struct sta_info *sta) __acquires(RCU)
573 {
574         struct ieee80211_local *local = sta->local;
575         int err;
576
577         might_sleep();
578
579         mutex_lock(&local->sta_mtx);
580
581         err = sta_info_insert_check(sta);
582         if (err) {
583                 mutex_unlock(&local->sta_mtx);
584                 rcu_read_lock();
585                 goto out_free;
586         }
587
588         err = sta_info_insert_finish(sta);
589         if (err)
590                 goto out_free;
591
592         return 0;
593  out_free:
594         sta_info_free(local, sta);
595         return err;
596 }
597
598 int sta_info_insert(struct sta_info *sta)
599 {
600         int err = sta_info_insert_rcu(sta);
601
602         rcu_read_unlock();
603
604         return err;
605 }
606
607 static inline void __bss_tim_set(u8 *tim, u16 id)
608 {
609         /*
610          * This format has been mandated by the IEEE specifications,
611          * so this line may not be changed to use the __set_bit() format.
612          */
613         tim[id / 8] |= (1 << (id % 8));
614 }
615
616 static inline void __bss_tim_clear(u8 *tim, u16 id)
617 {
618         /*
619          * This format has been mandated by the IEEE specifications,
620          * so this line may not be changed to use the __clear_bit() format.
621          */
622         tim[id / 8] &= ~(1 << (id % 8));
623 }
624
625 static inline bool __bss_tim_get(u8 *tim, u16 id)
626 {
627         /*
628          * This format has been mandated by the IEEE specifications,
629          * so this line may not be changed to use the test_bit() format.
630          */
631         return tim[id / 8] & (1 << (id % 8));
632 }
633
634 static unsigned long ieee80211_tids_for_ac(int ac)
635 {
636         /* If we ever support TIDs > 7, this obviously needs to be adjusted */
637         switch (ac) {
638         case IEEE80211_AC_VO:
639                 return BIT(6) | BIT(7);
640         case IEEE80211_AC_VI:
641                 return BIT(4) | BIT(5);
642         case IEEE80211_AC_BE:
643                 return BIT(0) | BIT(3);
644         case IEEE80211_AC_BK:
645                 return BIT(1) | BIT(2);
646         default:
647                 WARN_ON(1);
648                 return 0;
649         }
650 }
651
652 static void __sta_info_recalc_tim(struct sta_info *sta, bool ignore_pending)
653 {
654         struct ieee80211_local *local = sta->local;
655         struct ps_data *ps;
656         bool indicate_tim = false;
657         u8 ignore_for_tim = sta->sta.uapsd_queues;
658         int ac;
659         u16 id = sta->sta.aid;
660
661         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
662             sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
663                 if (WARN_ON_ONCE(!sta->sdata->bss))
664                         return;
665
666                 ps = &sta->sdata->bss->ps;
667 #ifdef CONFIG_MAC80211_MESH
668         } else if (ieee80211_vif_is_mesh(&sta->sdata->vif)) {
669                 ps = &sta->sdata->u.mesh.ps;
670 #endif
671         } else {
672                 return;
673         }
674
675         /* No need to do anything if the driver does all */
676         if (ieee80211_hw_check(&local->hw, AP_LINK_PS))
677                 return;
678
679         if (sta->dead)
680                 goto done;
681
682         /*
683          * If all ACs are delivery-enabled then we should build
684          * the TIM bit for all ACs anyway; if only some are then
685          * we ignore those and build the TIM bit using only the
686          * non-enabled ones.
687          */
688         if (ignore_for_tim == BIT(IEEE80211_NUM_ACS) - 1)
689                 ignore_for_tim = 0;
690
691         if (ignore_pending)
692                 ignore_for_tim = BIT(IEEE80211_NUM_ACS) - 1;
693
694         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
695                 unsigned long tids;
696
697                 if (ignore_for_tim & BIT(ac))
698                         continue;
699
700                 indicate_tim |= !skb_queue_empty(&sta->tx_filtered[ac]) ||
701                                 !skb_queue_empty(&sta->ps_tx_buf[ac]);
702                 if (indicate_tim)
703                         break;
704
705                 tids = ieee80211_tids_for_ac(ac);
706
707                 indicate_tim |=
708                         sta->driver_buffered_tids & tids;
709                 indicate_tim |=
710                         sta->txq_buffered_tids & tids;
711         }
712
713  done:
714         spin_lock_bh(&local->tim_lock);
715
716         if (indicate_tim == __bss_tim_get(ps->tim, id))
717                 goto out_unlock;
718
719         if (indicate_tim)
720                 __bss_tim_set(ps->tim, id);
721         else
722                 __bss_tim_clear(ps->tim, id);
723
724         if (local->ops->set_tim && !WARN_ON(sta->dead)) {
725                 local->tim_in_locked_section = true;
726                 drv_set_tim(local, &sta->sta, indicate_tim);
727                 local->tim_in_locked_section = false;
728         }
729
730 out_unlock:
731         spin_unlock_bh(&local->tim_lock);
732 }
733
734 void sta_info_recalc_tim(struct sta_info *sta)
735 {
736         __sta_info_recalc_tim(sta, false);
737 }
738
739 static bool sta_info_buffer_expired(struct sta_info *sta, struct sk_buff *skb)
740 {
741         struct ieee80211_tx_info *info;
742         int timeout;
743
744         if (!skb)
745                 return false;
746
747         info = IEEE80211_SKB_CB(skb);
748
749         /* Timeout: (2 * listen_interval * beacon_int * 1024 / 1000000) sec */
750         timeout = (sta->listen_interval *
751                    sta->sdata->vif.bss_conf.beacon_int *
752                    32 / 15625) * HZ;
753         if (timeout < STA_TX_BUFFER_EXPIRE)
754                 timeout = STA_TX_BUFFER_EXPIRE;
755         return time_after(jiffies, info->control.jiffies + timeout);
756 }
757
758
759 static bool sta_info_cleanup_expire_buffered_ac(struct ieee80211_local *local,
760                                                 struct sta_info *sta, int ac)
761 {
762         unsigned long flags;
763         struct sk_buff *skb;
764
765         /*
766          * First check for frames that should expire on the filtered
767          * queue. Frames here were rejected by the driver and are on
768          * a separate queue to avoid reordering with normal PS-buffered
769          * frames. They also aren't accounted for right now in the
770          * total_ps_buffered counter.
771          */
772         for (;;) {
773                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
774                 skb = skb_peek(&sta->tx_filtered[ac]);
775                 if (sta_info_buffer_expired(sta, skb))
776                         skb = __skb_dequeue(&sta->tx_filtered[ac]);
777                 else
778                         skb = NULL;
779                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
780
781                 /*
782                  * Frames are queued in order, so if this one
783                  * hasn't expired yet we can stop testing. If
784                  * we actually reached the end of the queue we
785                  * also need to stop, of course.
786                  */
787                 if (!skb)
788                         break;
789                 ieee80211_free_txskb(&local->hw, skb);
790         }
791
792         /*
793          * Now also check the normal PS-buffered queue, this will
794          * only find something if the filtered queue was emptied
795          * since the filtered frames are all before the normal PS
796          * buffered frames.
797          */
798         for (;;) {
799                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
800                 skb = skb_peek(&sta->ps_tx_buf[ac]);
801                 if (sta_info_buffer_expired(sta, skb))
802                         skb = __skb_dequeue(&sta->ps_tx_buf[ac]);
803                 else
804                         skb = NULL;
805                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
806
807                 /*
808                  * frames are queued in order, so if this one
809                  * hasn't expired yet (or we reached the end of
810                  * the queue) we can stop testing
811                  */
812                 if (!skb)
813                         break;
814
815                 local->total_ps_buffered--;
816                 ps_dbg(sta->sdata, "Buffered frame expired (STA %pM)\n",
817                        sta->sta.addr);
818                 ieee80211_free_txskb(&local->hw, skb);
819         }
820
821         /*
822          * Finally, recalculate the TIM bit for this station -- it might
823          * now be clear because the station was too slow to retrieve its
824          * frames.
825          */
826         sta_info_recalc_tim(sta);
827
828         /*
829          * Return whether there are any frames still buffered, this is
830          * used to check whether the cleanup timer still needs to run,
831          * if there are no frames we don't need to rearm the timer.
832          */
833         return !(skb_queue_empty(&sta->ps_tx_buf[ac]) &&
834                  skb_queue_empty(&sta->tx_filtered[ac]));
835 }
836
837 static bool sta_info_cleanup_expire_buffered(struct ieee80211_local *local,
838                                              struct sta_info *sta)
839 {
840         bool have_buffered = false;
841         int ac;
842
843         /* This is only necessary for stations on BSS/MBSS interfaces */
844         if (!sta->sdata->bss &&
845             !ieee80211_vif_is_mesh(&sta->sdata->vif))
846                 return false;
847
848         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
849                 have_buffered |=
850                         sta_info_cleanup_expire_buffered_ac(local, sta, ac);
851
852         return have_buffered;
853 }
854
855 static int __must_check __sta_info_destroy_part1(struct sta_info *sta)
856 {
857         struct ieee80211_local *local;
858         struct ieee80211_sub_if_data *sdata;
859         int ret;
860
861         might_sleep();
862
863         if (!sta)
864                 return -ENOENT;
865
866         local = sta->local;
867         sdata = sta->sdata;
868
869         lockdep_assert_held(&local->sta_mtx);
870
871         /*
872          * Before removing the station from the driver and
873          * rate control, it might still start new aggregation
874          * sessions -- block that to make sure the tear-down
875          * will be sufficient.
876          */
877         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
878         ieee80211_sta_tear_down_BA_sessions(sta, AGG_STOP_DESTROY_STA);
879
880         /*
881          * Before removing the station from the driver there might be pending
882          * rx frames on RSS queues sent prior to the disassociation - wait for
883          * all such frames to be processed.
884          */
885         drv_sync_rx_queues(local, sta);
886
887         ret = sta_info_hash_del(local, sta);
888         if (WARN_ON(ret))
889                 return ret;
890
891         /*
892          * for TDLS peers, make sure to return to the base channel before
893          * removal.
894          */
895         if (test_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL)) {
896                 drv_tdls_cancel_channel_switch(local, sdata, &sta->sta);
897                 clear_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL);
898         }
899
900         list_del_rcu(&sta->list);
901         sta->removed = true;
902
903         drv_sta_pre_rcu_remove(local, sta->sdata, sta);
904
905         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
906             rcu_access_pointer(sdata->u.vlan.sta) == sta)
907                 RCU_INIT_POINTER(sdata->u.vlan.sta, NULL);
908
909         return 0;
910 }
911
912 static void __sta_info_destroy_part2(struct sta_info *sta)
913 {
914         struct ieee80211_local *local = sta->local;
915         struct ieee80211_sub_if_data *sdata = sta->sdata;
916         struct station_info *sinfo;
917         int ret;
918
919         /*
920          * NOTE: This assumes at least synchronize_net() was done
921          *       after _part1 and before _part2!
922          */
923
924         might_sleep();
925         lockdep_assert_held(&local->sta_mtx);
926
927         /* now keys can no longer be reached */
928         ieee80211_free_sta_keys(local, sta);
929
930         /* disable TIM bit - last chance to tell driver */
931         __sta_info_recalc_tim(sta, true);
932
933         sta->dead = true;
934
935         local->num_sta--;
936         local->sta_generation++;
937
938         while (sta->sta_state > IEEE80211_STA_NONE) {
939                 ret = sta_info_move_state(sta, sta->sta_state - 1);
940                 if (ret) {
941                         WARN_ON_ONCE(1);
942                         break;
943                 }
944         }
945
946         if (sta->uploaded) {
947                 ret = drv_sta_state(local, sdata, sta, IEEE80211_STA_NONE,
948                                     IEEE80211_STA_NOTEXIST);
949                 WARN_ON_ONCE(ret != 0);
950         }
951
952         sta_dbg(sdata, "Removed STA %pM\n", sta->sta.addr);
953
954         sinfo = kzalloc(sizeof(*sinfo), GFP_KERNEL);
955         if (sinfo)
956                 sta_set_sinfo(sta, sinfo);
957         cfg80211_del_sta_sinfo(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
958         kfree(sinfo);
959
960         rate_control_remove_sta_debugfs(sta);
961         ieee80211_sta_debugfs_remove(sta);
962
963         cleanup_single_sta(sta);
964 }
965
966 int __must_check __sta_info_destroy(struct sta_info *sta)
967 {
968         int err = __sta_info_destroy_part1(sta);
969
970         if (err)
971                 return err;
972
973         synchronize_net();
974
975         __sta_info_destroy_part2(sta);
976
977         return 0;
978 }
979
980 int sta_info_destroy_addr(struct ieee80211_sub_if_data *sdata, const u8 *addr)
981 {
982         struct sta_info *sta;
983         int ret;
984
985         mutex_lock(&sdata->local->sta_mtx);
986         sta = sta_info_get(sdata, addr);
987         ret = __sta_info_destroy(sta);
988         mutex_unlock(&sdata->local->sta_mtx);
989
990         return ret;
991 }
992
993 int sta_info_destroy_addr_bss(struct ieee80211_sub_if_data *sdata,
994                               const u8 *addr)
995 {
996         struct sta_info *sta;
997         int ret;
998
999         mutex_lock(&sdata->local->sta_mtx);
1000         sta = sta_info_get_bss(sdata, addr);
1001         ret = __sta_info_destroy(sta);
1002         mutex_unlock(&sdata->local->sta_mtx);
1003
1004         return ret;
1005 }
1006
1007 static void sta_info_cleanup(unsigned long data)
1008 {
1009         struct ieee80211_local *local = (struct ieee80211_local *) data;
1010         struct sta_info *sta;
1011         bool timer_needed = false;
1012
1013         rcu_read_lock();
1014         list_for_each_entry_rcu(sta, &local->sta_list, list)
1015                 if (sta_info_cleanup_expire_buffered(local, sta))
1016                         timer_needed = true;
1017         rcu_read_unlock();
1018
1019         if (local->quiescing)
1020                 return;
1021
1022         if (!timer_needed)
1023                 return;
1024
1025         mod_timer(&local->sta_cleanup,
1026                   round_jiffies(jiffies + STA_INFO_CLEANUP_INTERVAL));
1027 }
1028
1029 u32 sta_addr_hash(const void *key, u32 length, u32 seed)
1030 {
1031         return jhash(key, ETH_ALEN, seed);
1032 }
1033
1034 int sta_info_init(struct ieee80211_local *local)
1035 {
1036         int err;
1037
1038         err = rhashtable_init(&local->sta_hash, &sta_rht_params);
1039         if (err)
1040                 return err;
1041
1042         spin_lock_init(&local->tim_lock);
1043         mutex_init(&local->sta_mtx);
1044         INIT_LIST_HEAD(&local->sta_list);
1045
1046         setup_timer(&local->sta_cleanup, sta_info_cleanup,
1047                     (unsigned long)local);
1048         return 0;
1049 }
1050
1051 void sta_info_stop(struct ieee80211_local *local)
1052 {
1053         del_timer_sync(&local->sta_cleanup);
1054         rhashtable_destroy(&local->sta_hash);
1055 }
1056
1057
1058 int __sta_info_flush(struct ieee80211_sub_if_data *sdata, bool vlans)
1059 {
1060         struct ieee80211_local *local = sdata->local;
1061         struct sta_info *sta, *tmp;
1062         LIST_HEAD(free_list);
1063         int ret = 0;
1064
1065         might_sleep();
1066
1067         WARN_ON(vlans && sdata->vif.type != NL80211_IFTYPE_AP);
1068         WARN_ON(vlans && !sdata->bss);
1069
1070         mutex_lock(&local->sta_mtx);
1071         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1072                 if (sdata == sta->sdata ||
1073                     (vlans && sdata->bss == sta->sdata->bss)) {
1074                         if (!WARN_ON(__sta_info_destroy_part1(sta)))
1075                                 list_add(&sta->free_list, &free_list);
1076                         ret++;
1077                 }
1078         }
1079
1080         if (!list_empty(&free_list)) {
1081                 synchronize_net();
1082                 list_for_each_entry_safe(sta, tmp, &free_list, free_list)
1083                         __sta_info_destroy_part2(sta);
1084         }
1085         mutex_unlock(&local->sta_mtx);
1086
1087         return ret;
1088 }
1089
1090 void ieee80211_sta_expire(struct ieee80211_sub_if_data *sdata,
1091                           unsigned long exp_time)
1092 {
1093         struct ieee80211_local *local = sdata->local;
1094         struct sta_info *sta, *tmp;
1095
1096         mutex_lock(&local->sta_mtx);
1097
1098         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1099                 unsigned long last_active = ieee80211_sta_last_active(sta);
1100
1101                 if (sdata != sta->sdata)
1102                         continue;
1103
1104                 if (time_is_before_jiffies(last_active + exp_time)) {
1105                         sta_dbg(sta->sdata, "expiring inactive STA %pM\n",
1106                                 sta->sta.addr);
1107
1108                         if (ieee80211_vif_is_mesh(&sdata->vif) &&
1109                             test_sta_flag(sta, WLAN_STA_PS_STA))
1110                                 atomic_dec(&sdata->u.mesh.ps.num_sta_ps);
1111
1112                         WARN_ON(__sta_info_destroy(sta));
1113                 }
1114         }
1115
1116         mutex_unlock(&local->sta_mtx);
1117 }
1118
1119 struct ieee80211_sta *ieee80211_find_sta_by_ifaddr(struct ieee80211_hw *hw,
1120                                                    const u8 *addr,
1121                                                    const u8 *localaddr)
1122 {
1123         struct ieee80211_local *local = hw_to_local(hw);
1124         struct sta_info *sta;
1125         struct rhash_head *tmp;
1126         const struct bucket_table *tbl;
1127
1128         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
1129
1130         /*
1131          * Just return a random station if localaddr is NULL
1132          * ... first in list.
1133          */
1134         for_each_sta_info(local, tbl, addr, sta, tmp) {
1135                 if (localaddr &&
1136                     !ether_addr_equal(sta->sdata->vif.addr, localaddr))
1137                         continue;
1138                 if (!sta->uploaded)
1139                         return NULL;
1140                 return &sta->sta;
1141         }
1142
1143         return NULL;
1144 }
1145 EXPORT_SYMBOL_GPL(ieee80211_find_sta_by_ifaddr);
1146
1147 struct ieee80211_sta *ieee80211_find_sta(struct ieee80211_vif *vif,
1148                                          const u8 *addr)
1149 {
1150         struct sta_info *sta;
1151
1152         if (!vif)
1153                 return NULL;
1154
1155         sta = sta_info_get_bss(vif_to_sdata(vif), addr);
1156         if (!sta)
1157                 return NULL;
1158
1159         if (!sta->uploaded)
1160                 return NULL;
1161
1162         return &sta->sta;
1163 }
1164 EXPORT_SYMBOL(ieee80211_find_sta);
1165
1166 /* powersave support code */
1167 void ieee80211_sta_ps_deliver_wakeup(struct sta_info *sta)
1168 {
1169         struct ieee80211_sub_if_data *sdata = sta->sdata;
1170         struct ieee80211_local *local = sdata->local;
1171         struct sk_buff_head pending;
1172         int filtered = 0, buffered = 0, ac, i;
1173         unsigned long flags;
1174         struct ps_data *ps;
1175
1176         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
1177                 sdata = container_of(sdata->bss, struct ieee80211_sub_if_data,
1178                                      u.ap);
1179
1180         if (sdata->vif.type == NL80211_IFTYPE_AP)
1181                 ps = &sdata->bss->ps;
1182         else if (ieee80211_vif_is_mesh(&sdata->vif))
1183                 ps = &sdata->u.mesh.ps;
1184         else
1185                 return;
1186
1187         clear_sta_flag(sta, WLAN_STA_SP);
1188
1189         BUILD_BUG_ON(BITS_TO_LONGS(IEEE80211_NUM_TIDS) > 1);
1190         sta->driver_buffered_tids = 0;
1191         sta->txq_buffered_tids = 0;
1192
1193         if (!ieee80211_hw_check(&local->hw, AP_LINK_PS))
1194                 drv_sta_notify(local, sdata, STA_NOTIFY_AWAKE, &sta->sta);
1195
1196         if (sta->sta.txq[0]) {
1197                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
1198                         struct txq_info *txqi = to_txq_info(sta->sta.txq[i]);
1199
1200                         if (!skb_queue_len(&txqi->queue))
1201                                 continue;
1202
1203                         drv_wake_tx_queue(local, txqi);
1204                 }
1205         }
1206
1207         skb_queue_head_init(&pending);
1208
1209         /* sync with ieee80211_tx_h_unicast_ps_buf */
1210         spin_lock(&sta->ps_lock);
1211         /* Send all buffered frames to the station */
1212         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1213                 int count = skb_queue_len(&pending), tmp;
1214
1215                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
1216                 skb_queue_splice_tail_init(&sta->tx_filtered[ac], &pending);
1217                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
1218                 tmp = skb_queue_len(&pending);
1219                 filtered += tmp - count;
1220                 count = tmp;
1221
1222                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
1223                 skb_queue_splice_tail_init(&sta->ps_tx_buf[ac], &pending);
1224                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
1225                 tmp = skb_queue_len(&pending);
1226                 buffered += tmp - count;
1227         }
1228
1229         ieee80211_add_pending_skbs(local, &pending);
1230
1231         /* now we're no longer in the deliver code */
1232         clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
1233
1234         /* The station might have polled and then woken up before we responded,
1235          * so clear these flags now to avoid them sticking around.
1236          */
1237         clear_sta_flag(sta, WLAN_STA_PSPOLL);
1238         clear_sta_flag(sta, WLAN_STA_UAPSD);
1239         spin_unlock(&sta->ps_lock);
1240
1241         atomic_dec(&ps->num_sta_ps);
1242
1243         /* This station just woke up and isn't aware of our SMPS state */
1244         if (!ieee80211_vif_is_mesh(&sdata->vif) &&
1245             !ieee80211_smps_is_restrictive(sta->known_smps_mode,
1246                                            sdata->smps_mode) &&
1247             sta->known_smps_mode != sdata->bss->req_smps &&
1248             sta_info_tx_streams(sta) != 1) {
1249                 ht_dbg(sdata,
1250                        "%pM just woke up and MIMO capable - update SMPS\n",
1251                        sta->sta.addr);
1252                 ieee80211_send_smps_action(sdata, sdata->bss->req_smps,
1253                                            sta->sta.addr,
1254                                            sdata->vif.bss_conf.bssid);
1255         }
1256
1257         local->total_ps_buffered -= buffered;
1258
1259         sta_info_recalc_tim(sta);
1260
1261         ps_dbg(sdata,
1262                "STA %pM aid %d sending %d filtered/%d PS frames since STA not sleeping anymore\n",
1263                sta->sta.addr, sta->sta.aid, filtered, buffered);
1264
1265         ieee80211_check_fast_xmit(sta);
1266 }
1267
1268 static void ieee80211_send_null_response(struct sta_info *sta, int tid,
1269                                          enum ieee80211_frame_release_type reason,
1270                                          bool call_driver, bool more_data)
1271 {
1272         struct ieee80211_sub_if_data *sdata = sta->sdata;
1273         struct ieee80211_local *local = sdata->local;
1274         struct ieee80211_qos_hdr *nullfunc;
1275         struct sk_buff *skb;
1276         int size = sizeof(*nullfunc);
1277         __le16 fc;
1278         bool qos = sta->sta.wme;
1279         struct ieee80211_tx_info *info;
1280         struct ieee80211_chanctx_conf *chanctx_conf;
1281
1282         if (qos) {
1283                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1284                                  IEEE80211_STYPE_QOS_NULLFUNC |
1285                                  IEEE80211_FCTL_FROMDS);
1286         } else {
1287                 size -= 2;
1288                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1289                                  IEEE80211_STYPE_NULLFUNC |
1290                                  IEEE80211_FCTL_FROMDS);
1291         }
1292
1293         skb = dev_alloc_skb(local->hw.extra_tx_headroom + size);
1294         if (!skb)
1295                 return;
1296
1297         skb_reserve(skb, local->hw.extra_tx_headroom);
1298
1299         nullfunc = (void *) skb_put(skb, size);
1300         nullfunc->frame_control = fc;
1301         nullfunc->duration_id = 0;
1302         memcpy(nullfunc->addr1, sta->sta.addr, ETH_ALEN);
1303         memcpy(nullfunc->addr2, sdata->vif.addr, ETH_ALEN);
1304         memcpy(nullfunc->addr3, sdata->vif.addr, ETH_ALEN);
1305         nullfunc->seq_ctrl = 0;
1306
1307         skb->priority = tid;
1308         skb_set_queue_mapping(skb, ieee802_1d_to_ac[tid]);
1309         if (qos) {
1310                 nullfunc->qos_ctrl = cpu_to_le16(tid);
1311
1312                 if (reason == IEEE80211_FRAME_RELEASE_UAPSD) {
1313                         nullfunc->qos_ctrl |=
1314                                 cpu_to_le16(IEEE80211_QOS_CTL_EOSP);
1315                         if (more_data)
1316                                 nullfunc->frame_control |=
1317                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1318                 }
1319         }
1320
1321         info = IEEE80211_SKB_CB(skb);
1322
1323         /*
1324          * Tell TX path to send this frame even though the
1325          * STA may still remain is PS mode after this frame
1326          * exchange. Also set EOSP to indicate this packet
1327          * ends the poll/service period.
1328          */
1329         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER |
1330                        IEEE80211_TX_STATUS_EOSP |
1331                        IEEE80211_TX_CTL_REQ_TX_STATUS;
1332
1333         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1334
1335         if (call_driver)
1336                 drv_allow_buffered_frames(local, sta, BIT(tid), 1,
1337                                           reason, false);
1338
1339         skb->dev = sdata->dev;
1340
1341         rcu_read_lock();
1342         chanctx_conf = rcu_dereference(sdata->vif.chanctx_conf);
1343         if (WARN_ON(!chanctx_conf)) {
1344                 rcu_read_unlock();
1345                 kfree_skb(skb);
1346                 return;
1347         }
1348
1349         info->band = chanctx_conf->def.chan->band;
1350         ieee80211_xmit(sdata, sta, skb);
1351         rcu_read_unlock();
1352 }
1353
1354 static int find_highest_prio_tid(unsigned long tids)
1355 {
1356         /* lower 3 TIDs aren't ordered perfectly */
1357         if (tids & 0xF8)
1358                 return fls(tids) - 1;
1359         /* TID 0 is BE just like TID 3 */
1360         if (tids & BIT(0))
1361                 return 0;
1362         return fls(tids) - 1;
1363 }
1364
1365 /* Indicates if the MORE_DATA bit should be set in the last
1366  * frame obtained by ieee80211_sta_ps_get_frames.
1367  * Note that driver_release_tids is relevant only if
1368  * reason = IEEE80211_FRAME_RELEASE_PSPOLL
1369  */
1370 static bool
1371 ieee80211_sta_ps_more_data(struct sta_info *sta, u8 ignored_acs,
1372                            enum ieee80211_frame_release_type reason,
1373                            unsigned long driver_release_tids)
1374 {
1375         int ac;
1376
1377         /* If the driver has data on more than one TID then
1378          * certainly there's more data if we release just a
1379          * single frame now (from a single TID). This will
1380          * only happen for PS-Poll.
1381          */
1382         if (reason == IEEE80211_FRAME_RELEASE_PSPOLL &&
1383             hweight16(driver_release_tids) > 1)
1384                 return true;
1385
1386         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1387                 if (ignored_acs & BIT(ac))
1388                         continue;
1389
1390                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1391                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1392                         return true;
1393         }
1394
1395         return false;
1396 }
1397
1398 static void
1399 ieee80211_sta_ps_get_frames(struct sta_info *sta, int n_frames, u8 ignored_acs,
1400                             enum ieee80211_frame_release_type reason,
1401                             struct sk_buff_head *frames,
1402                             unsigned long *driver_release_tids)
1403 {
1404         struct ieee80211_sub_if_data *sdata = sta->sdata;
1405         struct ieee80211_local *local = sdata->local;
1406         int ac;
1407
1408         /* Get response frame(s) and more data bit for the last one. */
1409         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1410                 unsigned long tids;
1411
1412                 if (ignored_acs & BIT(ac))
1413                         continue;
1414
1415                 tids = ieee80211_tids_for_ac(ac);
1416
1417                 /* if we already have frames from software, then we can't also
1418                  * release from hardware queues
1419                  */
1420                 if (skb_queue_empty(frames)) {
1421                         *driver_release_tids |=
1422                                 sta->driver_buffered_tids & tids;
1423                         *driver_release_tids |= sta->txq_buffered_tids & tids;
1424                 }
1425
1426                 if (!*driver_release_tids) {
1427                         struct sk_buff *skb;
1428
1429                         while (n_frames > 0) {
1430                                 skb = skb_dequeue(&sta->tx_filtered[ac]);
1431                                 if (!skb) {
1432                                         skb = skb_dequeue(
1433                                                 &sta->ps_tx_buf[ac]);
1434                                         if (skb)
1435                                                 local->total_ps_buffered--;
1436                                 }
1437                                 if (!skb)
1438                                         break;
1439                                 n_frames--;
1440                                 __skb_queue_tail(frames, skb);
1441                         }
1442                 }
1443
1444                 /* If we have more frames buffered on this AC, then abort the
1445                  * loop since we can't send more data from other ACs before
1446                  * the buffered frames from this.
1447                  */
1448                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1449                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1450                         break;
1451         }
1452 }
1453
1454 static void
1455 ieee80211_sta_ps_deliver_response(struct sta_info *sta,
1456                                   int n_frames, u8 ignored_acs,
1457                                   enum ieee80211_frame_release_type reason)
1458 {
1459         struct ieee80211_sub_if_data *sdata = sta->sdata;
1460         struct ieee80211_local *local = sdata->local;
1461         unsigned long driver_release_tids = 0;
1462         struct sk_buff_head frames;
1463         bool more_data;
1464
1465         /* Service or PS-Poll period starts */
1466         set_sta_flag(sta, WLAN_STA_SP);
1467
1468         __skb_queue_head_init(&frames);
1469
1470         ieee80211_sta_ps_get_frames(sta, n_frames, ignored_acs, reason,
1471                                     &frames, &driver_release_tids);
1472
1473         more_data = ieee80211_sta_ps_more_data(sta, ignored_acs, reason, driver_release_tids);
1474
1475         if (driver_release_tids && reason == IEEE80211_FRAME_RELEASE_PSPOLL)
1476                 driver_release_tids =
1477                         BIT(find_highest_prio_tid(driver_release_tids));
1478
1479         if (skb_queue_empty(&frames) && !driver_release_tids) {
1480                 int tid;
1481
1482                 /*
1483                  * For PS-Poll, this can only happen due to a race condition
1484                  * when we set the TIM bit and the station notices it, but
1485                  * before it can poll for the frame we expire it.
1486                  *
1487                  * For uAPSD, this is said in the standard (11.2.1.5 h):
1488                  *      At each unscheduled SP for a non-AP STA, the AP shall
1489                  *      attempt to transmit at least one MSDU or MMPDU, but no
1490                  *      more than the value specified in the Max SP Length field
1491                  *      in the QoS Capability element from delivery-enabled ACs,
1492                  *      that are destined for the non-AP STA.
1493                  *
1494                  * Since we have no other MSDU/MMPDU, transmit a QoS null frame.
1495                  */
1496
1497                 /* This will evaluate to 1, 3, 5 or 7. */
1498                 tid = 7 - ((ffs(~ignored_acs) - 1) << 1);
1499
1500                 ieee80211_send_null_response(sta, tid, reason, true, false);
1501         } else if (!driver_release_tids) {
1502                 struct sk_buff_head pending;
1503                 struct sk_buff *skb;
1504                 int num = 0;
1505                 u16 tids = 0;
1506                 bool need_null = false;
1507
1508                 skb_queue_head_init(&pending);
1509
1510                 while ((skb = __skb_dequeue(&frames))) {
1511                         struct ieee80211_tx_info *info = IEEE80211_SKB_CB(skb);
1512                         struct ieee80211_hdr *hdr = (void *) skb->data;
1513                         u8 *qoshdr = NULL;
1514
1515                         num++;
1516
1517                         /*
1518                          * Tell TX path to send this frame even though the
1519                          * STA may still remain is PS mode after this frame
1520                          * exchange.
1521                          */
1522                         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER;
1523                         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1524
1525                         /*
1526                          * Use MoreData flag to indicate whether there are
1527                          * more buffered frames for this STA
1528                          */
1529                         if (more_data || !skb_queue_empty(&frames))
1530                                 hdr->frame_control |=
1531                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1532                         else
1533                                 hdr->frame_control &=
1534                                         cpu_to_le16(~IEEE80211_FCTL_MOREDATA);
1535
1536                         if (ieee80211_is_data_qos(hdr->frame_control) ||
1537                             ieee80211_is_qos_nullfunc(hdr->frame_control))
1538                                 qoshdr = ieee80211_get_qos_ctl(hdr);
1539
1540                         tids |= BIT(skb->priority);
1541
1542                         __skb_queue_tail(&pending, skb);
1543
1544                         /* end service period after last frame or add one */
1545                         if (!skb_queue_empty(&frames))
1546                                 continue;
1547
1548                         if (reason != IEEE80211_FRAME_RELEASE_UAPSD) {
1549                                 /* for PS-Poll, there's only one frame */
1550                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1551                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1552                                 break;
1553                         }
1554
1555                         /* For uAPSD, things are a bit more complicated. If the
1556                          * last frame has a QoS header (i.e. is a QoS-data or
1557                          * QoS-nulldata frame) then just set the EOSP bit there
1558                          * and be done.
1559                          * If the frame doesn't have a QoS header (which means
1560                          * it should be a bufferable MMPDU) then we can't set
1561                          * the EOSP bit in the QoS header; add a QoS-nulldata
1562                          * frame to the list to send it after the MMPDU.
1563                          *
1564                          * Note that this code is only in the mac80211-release
1565                          * code path, we assume that the driver will not buffer
1566                          * anything but QoS-data frames, or if it does, will
1567                          * create the QoS-nulldata frame by itself if needed.
1568                          *
1569                          * Cf. 802.11-2012 10.2.1.10 (c).
1570                          */
1571                         if (qoshdr) {
1572                                 *qoshdr |= IEEE80211_QOS_CTL_EOSP;
1573
1574                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1575                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1576                         } else {
1577                                 /* The standard isn't completely clear on this
1578                                  * as it says the more-data bit should be set
1579                                  * if there are more BUs. The QoS-Null frame
1580                                  * we're about to send isn't buffered yet, we
1581                                  * only create it below, but let's pretend it
1582                                  * was buffered just in case some clients only
1583                                  * expect more-data=0 when eosp=1.
1584                                  */
1585                                 hdr->frame_control |=
1586                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1587                                 need_null = true;
1588                                 num++;
1589                         }
1590                         break;
1591                 }
1592
1593                 drv_allow_buffered_frames(local, sta, tids, num,
1594                                           reason, more_data);
1595
1596                 ieee80211_add_pending_skbs(local, &pending);
1597
1598                 if (need_null)
1599                         ieee80211_send_null_response(
1600                                 sta, find_highest_prio_tid(tids),
1601                                 reason, false, false);
1602
1603                 sta_info_recalc_tim(sta);
1604         } else {
1605                 unsigned long tids = sta->txq_buffered_tids & driver_release_tids;
1606                 int tid;
1607
1608                 /*
1609                  * We need to release a frame that is buffered somewhere in the
1610                  * driver ... it'll have to handle that.
1611                  * Note that the driver also has to check the number of frames
1612                  * on the TIDs we're releasing from - if there are more than
1613                  * n_frames it has to set the more-data bit (if we didn't ask
1614                  * it to set it anyway due to other buffered frames); if there
1615                  * are fewer than n_frames it has to make sure to adjust that
1616                  * to allow the service period to end properly.
1617                  */
1618                 drv_release_buffered_frames(local, sta, driver_release_tids,
1619                                             n_frames, reason, more_data);
1620
1621                 /*
1622                  * Note that we don't recalculate the TIM bit here as it would
1623                  * most likely have no effect at all unless the driver told us
1624                  * that the TID(s) became empty before returning here from the
1625                  * release function.
1626                  * Either way, however, when the driver tells us that the TID(s)
1627                  * became empty or we find that a txq became empty, we'll do the
1628                  * TIM recalculation.
1629                  */
1630
1631                 if (!sta->sta.txq[0])
1632                         return;
1633
1634                 for (tid = 0; tid < ARRAY_SIZE(sta->sta.txq); tid++) {
1635                         struct txq_info *txqi = to_txq_info(sta->sta.txq[tid]);
1636
1637                         if (!(tids & BIT(tid)) || skb_queue_len(&txqi->queue))
1638                                 continue;
1639
1640                         sta_info_recalc_tim(sta);
1641                         break;
1642                 }
1643         }
1644 }
1645
1646 void ieee80211_sta_ps_deliver_poll_response(struct sta_info *sta)
1647 {
1648         u8 ignore_for_response = sta->sta.uapsd_queues;
1649
1650         /*
1651          * If all ACs are delivery-enabled then we should reply
1652          * from any of them, if only some are enabled we reply
1653          * only from the non-enabled ones.
1654          */
1655         if (ignore_for_response == BIT(IEEE80211_NUM_ACS) - 1)
1656                 ignore_for_response = 0;
1657
1658         ieee80211_sta_ps_deliver_response(sta, 1, ignore_for_response,
1659                                           IEEE80211_FRAME_RELEASE_PSPOLL);
1660 }
1661
1662 void ieee80211_sta_ps_deliver_uapsd(struct sta_info *sta)
1663 {
1664         int n_frames = sta->sta.max_sp;
1665         u8 delivery_enabled = sta->sta.uapsd_queues;
1666
1667         /*
1668          * If we ever grow support for TSPEC this might happen if
1669          * the TSPEC update from hostapd comes in between a trigger
1670          * frame setting WLAN_STA_UAPSD in the RX path and this
1671          * actually getting called.
1672          */
1673         if (!delivery_enabled)
1674                 return;
1675
1676         switch (sta->sta.max_sp) {
1677         case 1:
1678                 n_frames = 2;
1679                 break;
1680         case 2:
1681                 n_frames = 4;
1682                 break;
1683         case 3:
1684                 n_frames = 6;
1685                 break;
1686         case 0:
1687                 /* XXX: what is a good value? */
1688                 n_frames = 128;
1689                 break;
1690         }
1691
1692         ieee80211_sta_ps_deliver_response(sta, n_frames, ~delivery_enabled,
1693                                           IEEE80211_FRAME_RELEASE_UAPSD);
1694 }
1695
1696 void ieee80211_sta_block_awake(struct ieee80211_hw *hw,
1697                                struct ieee80211_sta *pubsta, bool block)
1698 {
1699         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1700
1701         trace_api_sta_block_awake(sta->local, pubsta, block);
1702
1703         if (block) {
1704                 set_sta_flag(sta, WLAN_STA_PS_DRIVER);
1705                 ieee80211_clear_fast_xmit(sta);
1706                 return;
1707         }
1708
1709         if (!test_sta_flag(sta, WLAN_STA_PS_DRIVER))
1710                 return;
1711
1712         if (!test_sta_flag(sta, WLAN_STA_PS_STA)) {
1713                 set_sta_flag(sta, WLAN_STA_PS_DELIVER);
1714                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1715                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1716         } else if (test_sta_flag(sta, WLAN_STA_PSPOLL) ||
1717                    test_sta_flag(sta, WLAN_STA_UAPSD)) {
1718                 /* must be asleep in this case */
1719                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1720                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1721         } else {
1722                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1723                 ieee80211_check_fast_xmit(sta);
1724         }
1725 }
1726 EXPORT_SYMBOL(ieee80211_sta_block_awake);
1727
1728 void ieee80211_sta_eosp(struct ieee80211_sta *pubsta)
1729 {
1730         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1731         struct ieee80211_local *local = sta->local;
1732
1733         trace_api_eosp(local, pubsta);
1734
1735         clear_sta_flag(sta, WLAN_STA_SP);
1736 }
1737 EXPORT_SYMBOL(ieee80211_sta_eosp);
1738
1739 void ieee80211_send_eosp_nullfunc(struct ieee80211_sta *pubsta, int tid)
1740 {
1741         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1742         enum ieee80211_frame_release_type reason;
1743         bool more_data;
1744
1745         trace_api_send_eosp_nullfunc(sta->local, pubsta, tid);
1746
1747         reason = IEEE80211_FRAME_RELEASE_UAPSD;
1748         more_data = ieee80211_sta_ps_more_data(sta, ~sta->sta.uapsd_queues,
1749                                                reason, 0);
1750
1751         ieee80211_send_null_response(sta, tid, reason, false, more_data);
1752 }
1753 EXPORT_SYMBOL(ieee80211_send_eosp_nullfunc);
1754
1755 void ieee80211_sta_set_buffered(struct ieee80211_sta *pubsta,
1756                                 u8 tid, bool buffered)
1757 {
1758         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1759
1760         if (WARN_ON(tid >= IEEE80211_NUM_TIDS))
1761                 return;
1762
1763         trace_api_sta_set_buffered(sta->local, pubsta, tid, buffered);
1764
1765         if (buffered)
1766                 set_bit(tid, &sta->driver_buffered_tids);
1767         else
1768                 clear_bit(tid, &sta->driver_buffered_tids);
1769
1770         sta_info_recalc_tim(sta);
1771 }
1772 EXPORT_SYMBOL(ieee80211_sta_set_buffered);
1773
1774 static void
1775 ieee80211_recalc_p2p_go_ps_allowed(struct ieee80211_sub_if_data *sdata)
1776 {
1777         struct ieee80211_local *local = sdata->local;
1778         bool allow_p2p_go_ps = sdata->vif.p2p;
1779         struct sta_info *sta;
1780
1781         rcu_read_lock();
1782         list_for_each_entry_rcu(sta, &local->sta_list, list) {
1783                 if (sdata != sta->sdata ||
1784                     !test_sta_flag(sta, WLAN_STA_ASSOC))
1785                         continue;
1786                 if (!sta->sta.support_p2p_ps) {
1787                         allow_p2p_go_ps = false;
1788                         break;
1789                 }
1790         }
1791         rcu_read_unlock();
1792
1793         if (allow_p2p_go_ps != sdata->vif.bss_conf.allow_p2p_go_ps) {
1794                 sdata->vif.bss_conf.allow_p2p_go_ps = allow_p2p_go_ps;
1795                 ieee80211_bss_info_change_notify(sdata, BSS_CHANGED_P2P_PS);
1796         }
1797 }
1798
1799 int sta_info_move_state(struct sta_info *sta,
1800                         enum ieee80211_sta_state new_state)
1801 {
1802         might_sleep();
1803
1804         if (sta->sta_state == new_state)
1805                 return 0;
1806
1807         /* check allowed transitions first */
1808
1809         switch (new_state) {
1810         case IEEE80211_STA_NONE:
1811                 if (sta->sta_state != IEEE80211_STA_AUTH)
1812                         return -EINVAL;
1813                 break;
1814         case IEEE80211_STA_AUTH:
1815                 if (sta->sta_state != IEEE80211_STA_NONE &&
1816                     sta->sta_state != IEEE80211_STA_ASSOC)
1817                         return -EINVAL;
1818                 break;
1819         case IEEE80211_STA_ASSOC:
1820                 if (sta->sta_state != IEEE80211_STA_AUTH &&
1821                     sta->sta_state != IEEE80211_STA_AUTHORIZED)
1822                         return -EINVAL;
1823                 break;
1824         case IEEE80211_STA_AUTHORIZED:
1825                 if (sta->sta_state != IEEE80211_STA_ASSOC)
1826                         return -EINVAL;
1827                 break;
1828         default:
1829                 WARN(1, "invalid state %d", new_state);
1830                 return -EINVAL;
1831         }
1832
1833         sta_dbg(sta->sdata, "moving STA %pM to state %d\n",
1834                 sta->sta.addr, new_state);
1835
1836         /*
1837          * notify the driver before the actual changes so it can
1838          * fail the transition
1839          */
1840         if (test_sta_flag(sta, WLAN_STA_INSERTED)) {
1841                 int err = drv_sta_state(sta->local, sta->sdata, sta,
1842                                         sta->sta_state, new_state);
1843                 if (err)
1844                         return err;
1845         }
1846
1847         /* reflect the change in all state variables */
1848
1849         switch (new_state) {
1850         case IEEE80211_STA_NONE:
1851                 if (sta->sta_state == IEEE80211_STA_AUTH)
1852                         clear_bit(WLAN_STA_AUTH, &sta->_flags);
1853                 break;
1854         case IEEE80211_STA_AUTH:
1855                 if (sta->sta_state == IEEE80211_STA_NONE) {
1856                         set_bit(WLAN_STA_AUTH, &sta->_flags);
1857                 } else if (sta->sta_state == IEEE80211_STA_ASSOC) {
1858                         clear_bit(WLAN_STA_ASSOC, &sta->_flags);
1859                         ieee80211_recalc_min_chandef(sta->sdata);
1860                         if (!sta->sta.support_p2p_ps)
1861                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1862                 }
1863                 break;
1864         case IEEE80211_STA_ASSOC:
1865                 if (sta->sta_state == IEEE80211_STA_AUTH) {
1866                         set_bit(WLAN_STA_ASSOC, &sta->_flags);
1867                         ieee80211_recalc_min_chandef(sta->sdata);
1868                         if (!sta->sta.support_p2p_ps)
1869                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1870                 } else if (sta->sta_state == IEEE80211_STA_AUTHORIZED) {
1871                         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
1872                             (sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
1873                              !sta->sdata->u.vlan.sta))
1874                                 atomic_dec(&sta->sdata->bss->num_mcast_sta);
1875                         clear_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1876                         ieee80211_clear_fast_xmit(sta);
1877                         ieee80211_clear_fast_rx(sta);
1878                 }
1879                 break;
1880         case IEEE80211_STA_AUTHORIZED:
1881                 if (sta->sta_state == IEEE80211_STA_ASSOC) {
1882                         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
1883                             (sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
1884                              !sta->sdata->u.vlan.sta))
1885                                 atomic_inc(&sta->sdata->bss->num_mcast_sta);
1886                         set_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1887                         ieee80211_check_fast_xmit(sta);
1888                         ieee80211_check_fast_rx(sta);
1889                 }
1890                 break;
1891         default:
1892                 break;
1893         }
1894
1895         sta->sta_state = new_state;
1896
1897         return 0;
1898 }
1899
1900 u8 sta_info_tx_streams(struct sta_info *sta)
1901 {
1902         struct ieee80211_sta_ht_cap *ht_cap = &sta->sta.ht_cap;
1903         u8 rx_streams;
1904
1905         if (!sta->sta.ht_cap.ht_supported)
1906                 return 1;
1907
1908         if (sta->sta.vht_cap.vht_supported) {
1909                 int i;
1910                 u16 tx_mcs_map =
1911                         le16_to_cpu(sta->sta.vht_cap.vht_mcs.tx_mcs_map);
1912
1913                 for (i = 7; i >= 0; i--)
1914                         if ((tx_mcs_map & (0x3 << (i * 2))) !=
1915                             IEEE80211_VHT_MCS_NOT_SUPPORTED)
1916                                 return i + 1;
1917         }
1918
1919         if (ht_cap->mcs.rx_mask[3])
1920                 rx_streams = 4;
1921         else if (ht_cap->mcs.rx_mask[2])
1922                 rx_streams = 3;
1923         else if (ht_cap->mcs.rx_mask[1])
1924                 rx_streams = 2;
1925         else
1926                 rx_streams = 1;
1927
1928         if (!(ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_RX_DIFF))
1929                 return rx_streams;
1930
1931         return ((ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_MAX_STREAMS_MASK)
1932                         >> IEEE80211_HT_MCS_TX_MAX_STREAMS_SHIFT) + 1;
1933 }
1934
1935 static void sta_stats_decode_rate(struct ieee80211_local *local, u16 rate,
1936                                   struct rate_info *rinfo)
1937 {
1938         rinfo->bw = (rate & STA_STATS_RATE_BW_MASK) >>
1939                 STA_STATS_RATE_BW_SHIFT;
1940
1941         if (rate & STA_STATS_RATE_VHT) {
1942                 rinfo->flags = RATE_INFO_FLAGS_VHT_MCS;
1943                 rinfo->mcs = rate & 0xf;
1944                 rinfo->nss = (rate & 0xf0) >> 4;
1945         } else if (rate & STA_STATS_RATE_HT) {
1946                 rinfo->flags = RATE_INFO_FLAGS_MCS;
1947                 rinfo->mcs = rate & 0xff;
1948         } else if (rate & STA_STATS_RATE_LEGACY) {
1949                 struct ieee80211_supported_band *sband;
1950                 u16 brate;
1951                 unsigned int shift;
1952
1953                 sband = local->hw.wiphy->bands[(rate >> 4) & 0xf];
1954                 brate = sband->bitrates[rate & 0xf].bitrate;
1955                 if (rinfo->bw == RATE_INFO_BW_5)
1956                         shift = 2;
1957                 else if (rinfo->bw == RATE_INFO_BW_10)
1958                         shift = 1;
1959                 else
1960                         shift = 0;
1961                 rinfo->legacy = DIV_ROUND_UP(brate, 1 << shift);
1962         }
1963
1964         if (rate & STA_STATS_RATE_SGI)
1965                 rinfo->flags |= RATE_INFO_FLAGS_SHORT_GI;
1966 }
1967
1968 static void sta_set_rate_info_rx(struct sta_info *sta, struct rate_info *rinfo)
1969 {
1970         u16 rate = ACCESS_ONCE(sta->rx_stats.last_rate);
1971
1972         if (rate == STA_STATS_RATE_INVALID)
1973                 rinfo->flags = 0;
1974         else
1975                 sta_stats_decode_rate(sta->local, rate, rinfo);
1976 }
1977
1978 static void sta_set_tidstats(struct sta_info *sta,
1979                              struct cfg80211_tid_stats *tidstats,
1980                              int tid)
1981 {
1982         struct ieee80211_local *local = sta->local;
1983
1984         if (!(tidstats->filled & BIT(NL80211_TID_STATS_RX_MSDU))) {
1985                 unsigned int start;
1986
1987                 do {
1988                         start = u64_stats_fetch_begin(&sta->rx_stats.syncp);
1989                         tidstats->rx_msdu = sta->rx_stats.msdu[tid];
1990                 } while (u64_stats_fetch_retry(&sta->rx_stats.syncp, start));
1991
1992                 tidstats->filled |= BIT(NL80211_TID_STATS_RX_MSDU);
1993         }
1994
1995         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU))) {
1996                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU);
1997                 tidstats->tx_msdu = sta->tx_stats.msdu[tid];
1998         }
1999
2000         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_RETRIES)) &&
2001             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2002                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_RETRIES);
2003                 tidstats->tx_msdu_retries = sta->status_stats.msdu_retries[tid];
2004         }
2005
2006         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_FAILED)) &&
2007             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2008                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_FAILED);
2009                 tidstats->tx_msdu_failed = sta->status_stats.msdu_failed[tid];
2010         }
2011 }
2012
2013 void sta_set_sinfo(struct sta_info *sta, struct station_info *sinfo)
2014 {
2015         struct ieee80211_sub_if_data *sdata = sta->sdata;
2016         struct ieee80211_local *local = sdata->local;
2017         struct rate_control_ref *ref = NULL;
2018         u32 thr = 0;
2019         int i, ac;
2020
2021         if (test_sta_flag(sta, WLAN_STA_RATE_CONTROL))
2022                 ref = local->rate_ctrl;
2023
2024         sinfo->generation = sdata->local->sta_generation;
2025
2026         /* do before driver, so beacon filtering drivers have a
2027          * chance to e.g. just add the number of filtered beacons
2028          * (or just modify the value entirely, of course)
2029          */
2030         if (sdata->vif.type == NL80211_IFTYPE_STATION)
2031                 sinfo->rx_beacon = sdata->u.mgd.count_beacon_signal;
2032
2033         drv_sta_statistics(local, sdata, &sta->sta, sinfo);
2034
2035         sinfo->filled |= BIT(NL80211_STA_INFO_INACTIVE_TIME) |
2036                          BIT(NL80211_STA_INFO_STA_FLAGS) |
2037                          BIT(NL80211_STA_INFO_BSS_PARAM) |
2038                          BIT(NL80211_STA_INFO_CONNECTED_TIME) |
2039                          BIT(NL80211_STA_INFO_RX_DROP_MISC);
2040
2041         if (sdata->vif.type == NL80211_IFTYPE_STATION) {
2042                 sinfo->beacon_loss_count = sdata->u.mgd.beacon_loss_count;
2043                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_LOSS);
2044         }
2045
2046         sinfo->connected_time = ktime_get_seconds() - sta->last_connected;
2047         sinfo->inactive_time =
2048                 jiffies_to_msecs(jiffies - ieee80211_sta_last_active(sta));
2049
2050         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_TX_BYTES64) |
2051                                BIT(NL80211_STA_INFO_TX_BYTES)))) {
2052                 sinfo->tx_bytes = 0;
2053                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2054                         sinfo->tx_bytes += sta->tx_stats.bytes[ac];
2055                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BYTES64);
2056         }
2057
2058         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_PACKETS))) {
2059                 sinfo->tx_packets = 0;
2060                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2061                         sinfo->tx_packets += sta->tx_stats.packets[ac];
2062                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_PACKETS);
2063         }
2064
2065         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_RX_BYTES64) |
2066                                BIT(NL80211_STA_INFO_RX_BYTES)))) {
2067                 unsigned int start;
2068
2069                 do {
2070                         start = u64_stats_fetch_begin(&sta->rx_stats.syncp);
2071                         sinfo->rx_bytes = sta->rx_stats.bytes;
2072                 } while (u64_stats_fetch_retry(&sta->rx_stats.syncp, start));
2073                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_BYTES64);
2074         }
2075
2076         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_PACKETS))) {
2077                 sinfo->rx_packets = sta->rx_stats.packets;
2078                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_PACKETS);
2079         }
2080
2081         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_RETRIES))) {
2082                 sinfo->tx_retries = sta->status_stats.retry_count;
2083                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_RETRIES);
2084         }
2085
2086         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_FAILED))) {
2087                 sinfo->tx_failed = sta->status_stats.retry_failed;
2088                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_FAILED);
2089         }
2090
2091         sinfo->rx_dropped_misc = sta->rx_stats.dropped;
2092
2093         if (sdata->vif.type == NL80211_IFTYPE_STATION &&
2094             !(sdata->vif.driver_flags & IEEE80211_VIF_BEACON_FILTER)) {
2095                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_RX) |
2096                                  BIT(NL80211_STA_INFO_BEACON_SIGNAL_AVG);
2097                 sinfo->rx_beacon_signal_avg = ieee80211_ave_rssi(&sdata->vif);
2098         }
2099
2100         if (ieee80211_hw_check(&sta->local->hw, SIGNAL_DBM) ||
2101             ieee80211_hw_check(&sta->local->hw, SIGNAL_UNSPEC)) {
2102                 if (!(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL))) {
2103                         sinfo->signal = (s8)sta->rx_stats.last_signal;
2104                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL);
2105                 }
2106
2107                 if (!(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL_AVG))) {
2108                         sinfo->signal_avg =
2109                                 -ewma_signal_read(&sta->rx_stats_avg.signal);
2110                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL_AVG);
2111                 }
2112         }
2113
2114         if (sta->rx_stats.chains &&
2115             !(sinfo->filled & (BIT(NL80211_STA_INFO_CHAIN_SIGNAL) |
2116                                BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG)))) {
2117                 sinfo->filled |= BIT(NL80211_STA_INFO_CHAIN_SIGNAL) |
2118                                  BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG);
2119
2120                 sinfo->chains = sta->rx_stats.chains;
2121                 for (i = 0; i < ARRAY_SIZE(sinfo->chain_signal); i++) {
2122                         sinfo->chain_signal[i] =
2123                                 sta->rx_stats.chain_signal_last[i];
2124                         sinfo->chain_signal_avg[i] =
2125                                 -ewma_signal_read(&sta->rx_stats_avg.chain_signal[i]);
2126                 }
2127         }
2128
2129         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_BITRATE))) {
2130                 sta_set_rate_info_tx(sta, &sta->tx_stats.last_rate,
2131                                      &sinfo->txrate);
2132                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BITRATE);
2133         }
2134
2135         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_BITRATE))) {
2136                 sta_set_rate_info_rx(sta, &sinfo->rxrate);
2137                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_BITRATE);
2138         }
2139
2140         sinfo->filled |= BIT(NL80211_STA_INFO_TID_STATS);
2141         for (i = 0; i < IEEE80211_NUM_TIDS + 1; i++) {
2142                 struct cfg80211_tid_stats *tidstats = &sinfo->pertid[i];
2143
2144                 sta_set_tidstats(sta, tidstats, i);
2145         }
2146
2147         if (ieee80211_vif_is_mesh(&sdata->vif)) {
2148 #ifdef CONFIG_MAC80211_MESH
2149                 sinfo->filled |= BIT(NL80211_STA_INFO_LLID) |
2150                                  BIT(NL80211_STA_INFO_PLID) |
2151                                  BIT(NL80211_STA_INFO_PLINK_STATE) |
2152                                  BIT(NL80211_STA_INFO_LOCAL_PM) |
2153                                  BIT(NL80211_STA_INFO_PEER_PM) |
2154                                  BIT(NL80211_STA_INFO_NONPEER_PM);
2155
2156                 sinfo->llid = sta->mesh->llid;
2157                 sinfo->plid = sta->mesh->plid;
2158                 sinfo->plink_state = sta->mesh->plink_state;
2159                 if (test_sta_flag(sta, WLAN_STA_TOFFSET_KNOWN)) {
2160                         sinfo->filled |= BIT(NL80211_STA_INFO_T_OFFSET);
2161                         sinfo->t_offset = sta->mesh->t_offset;
2162                 }
2163                 sinfo->local_pm = sta->mesh->local_pm;
2164                 sinfo->peer_pm = sta->mesh->peer_pm;
2165                 sinfo->nonpeer_pm = sta->mesh->nonpeer_pm;
2166 #endif
2167         }
2168
2169         sinfo->bss_param.flags = 0;
2170         if (sdata->vif.bss_conf.use_cts_prot)
2171                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_CTS_PROT;
2172         if (sdata->vif.bss_conf.use_short_preamble)
2173                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_PREAMBLE;
2174         if (sdata->vif.bss_conf.use_short_slot)
2175                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_SLOT_TIME;
2176         sinfo->bss_param.dtim_period = sdata->vif.bss_conf.dtim_period;
2177         sinfo->bss_param.beacon_interval = sdata->vif.bss_conf.beacon_int;
2178
2179         sinfo->sta_flags.set = 0;
2180         sinfo->sta_flags.mask = BIT(NL80211_STA_FLAG_AUTHORIZED) |
2181                                 BIT(NL80211_STA_FLAG_SHORT_PREAMBLE) |
2182                                 BIT(NL80211_STA_FLAG_WME) |
2183                                 BIT(NL80211_STA_FLAG_MFP) |
2184                                 BIT(NL80211_STA_FLAG_AUTHENTICATED) |
2185                                 BIT(NL80211_STA_FLAG_ASSOCIATED) |
2186                                 BIT(NL80211_STA_FLAG_TDLS_PEER);
2187         if (test_sta_flag(sta, WLAN_STA_AUTHORIZED))
2188                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHORIZED);
2189         if (test_sta_flag(sta, WLAN_STA_SHORT_PREAMBLE))
2190                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_SHORT_PREAMBLE);
2191         if (sta->sta.wme)
2192                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_WME);
2193         if (test_sta_flag(sta, WLAN_STA_MFP))
2194                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_MFP);
2195         if (test_sta_flag(sta, WLAN_STA_AUTH))
2196                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHENTICATED);
2197         if (test_sta_flag(sta, WLAN_STA_ASSOC))
2198                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_ASSOCIATED);
2199         if (test_sta_flag(sta, WLAN_STA_TDLS_PEER))
2200                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_TDLS_PEER);
2201
2202         /* check if the driver has a SW RC implementation */
2203         if (ref && ref->ops->get_expected_throughput)
2204                 thr = ref->ops->get_expected_throughput(sta->rate_ctrl_priv);
2205         else
2206                 thr = drv_get_expected_throughput(local, &sta->sta);
2207
2208         if (thr != 0) {
2209                 sinfo->filled |= BIT(NL80211_STA_INFO_EXPECTED_THROUGHPUT);
2210                 sinfo->expected_throughput = thr;
2211         }
2212 }
2213
2214 unsigned long ieee80211_sta_last_active(struct sta_info *sta)
2215 {
2216         if (time_after(sta->rx_stats.last_rx, sta->status_stats.last_ack))
2217                 return sta->rx_stats.last_rx;
2218         return sta->status_stats.last_ack;
2219 }