mac80211: Move reorder-sensitive TX handlers to after TXQ dequeue
[cascardo/linux.git] / net / mac80211 / sta_info.c
1 /*
2  * Copyright 2002-2005, Instant802 Networks, Inc.
3  * Copyright 2006-2007  Jiri Benc <jbenc@suse.cz>
4  * Copyright 2013-2014  Intel Mobile Communications GmbH
5  * Copyright (C) 2015 - 2016 Intel Deutschland GmbH
6  *
7  * This program is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License version 2 as
9  * published by the Free Software Foundation.
10  */
11
12 #include <linux/module.h>
13 #include <linux/init.h>
14 #include <linux/etherdevice.h>
15 #include <linux/netdevice.h>
16 #include <linux/types.h>
17 #include <linux/slab.h>
18 #include <linux/skbuff.h>
19 #include <linux/if_arp.h>
20 #include <linux/timer.h>
21 #include <linux/rtnetlink.h>
22
23 #include <net/mac80211.h>
24 #include "ieee80211_i.h"
25 #include "driver-ops.h"
26 #include "rate.h"
27 #include "sta_info.h"
28 #include "debugfs_sta.h"
29 #include "mesh.h"
30 #include "wme.h"
31
32 /**
33  * DOC: STA information lifetime rules
34  *
35  * STA info structures (&struct sta_info) are managed in a hash table
36  * for faster lookup and a list for iteration. They are managed using
37  * RCU, i.e. access to the list and hash table is protected by RCU.
38  *
39  * Upon allocating a STA info structure with sta_info_alloc(), the caller
40  * owns that structure. It must then insert it into the hash table using
41  * either sta_info_insert() or sta_info_insert_rcu(); only in the latter
42  * case (which acquires an rcu read section but must not be called from
43  * within one) will the pointer still be valid after the call. Note that
44  * the caller may not do much with the STA info before inserting it, in
45  * particular, it may not start any mesh peer link management or add
46  * encryption keys.
47  *
48  * When the insertion fails (sta_info_insert()) returns non-zero), the
49  * structure will have been freed by sta_info_insert()!
50  *
51  * Station entries are added by mac80211 when you establish a link with a
52  * peer. This means different things for the different type of interfaces
53  * we support. For a regular station this mean we add the AP sta when we
54  * receive an association response from the AP. For IBSS this occurs when
55  * get to know about a peer on the same IBSS. For WDS we add the sta for
56  * the peer immediately upon device open. When using AP mode we add stations
57  * for each respective station upon request from userspace through nl80211.
58  *
59  * In order to remove a STA info structure, various sta_info_destroy_*()
60  * calls are available.
61  *
62  * There is no concept of ownership on a STA entry, each structure is
63  * owned by the global hash table/list until it is removed. All users of
64  * the structure need to be RCU protected so that the structure won't be
65  * freed before they are done using it.
66  */
67
68 static const struct rhashtable_params sta_rht_params = {
69         .nelem_hint = 3, /* start small */
70         .insecure_elasticity = true, /* Disable chain-length checks. */
71         .automatic_shrinking = true,
72         .head_offset = offsetof(struct sta_info, hash_node),
73         .key_offset = offsetof(struct sta_info, addr),
74         .key_len = ETH_ALEN,
75         .hashfn = sta_addr_hash,
76         .max_size = CONFIG_MAC80211_STA_HASH_MAX_SIZE,
77 };
78
79 /* Caller must hold local->sta_mtx */
80 static int sta_info_hash_del(struct ieee80211_local *local,
81                              struct sta_info *sta)
82 {
83         return rhashtable_remove_fast(&local->sta_hash, &sta->hash_node,
84                                       sta_rht_params);
85 }
86
87 static void __cleanup_single_sta(struct sta_info *sta)
88 {
89         int ac, i;
90         struct tid_ampdu_tx *tid_tx;
91         struct ieee80211_sub_if_data *sdata = sta->sdata;
92         struct ieee80211_local *local = sdata->local;
93         struct fq *fq = &local->fq;
94         struct ps_data *ps;
95
96         if (test_sta_flag(sta, WLAN_STA_PS_STA) ||
97             test_sta_flag(sta, WLAN_STA_PS_DRIVER) ||
98             test_sta_flag(sta, WLAN_STA_PS_DELIVER)) {
99                 if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
100                     sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
101                         ps = &sdata->bss->ps;
102                 else if (ieee80211_vif_is_mesh(&sdata->vif))
103                         ps = &sdata->u.mesh.ps;
104                 else
105                         return;
106
107                 clear_sta_flag(sta, WLAN_STA_PS_STA);
108                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
109                 clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
110
111                 atomic_dec(&ps->num_sta_ps);
112         }
113
114         if (sta->sta.txq[0]) {
115                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
116                         struct txq_info *txqi = to_txq_info(sta->sta.txq[i]);
117
118                         spin_lock_bh(&fq->lock);
119                         ieee80211_txq_purge(local, txqi);
120                         spin_unlock_bh(&fq->lock);
121                 }
122         }
123
124         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
125                 local->total_ps_buffered -= skb_queue_len(&sta->ps_tx_buf[ac]);
126                 ieee80211_purge_tx_queue(&local->hw, &sta->ps_tx_buf[ac]);
127                 ieee80211_purge_tx_queue(&local->hw, &sta->tx_filtered[ac]);
128         }
129
130         if (ieee80211_vif_is_mesh(&sdata->vif))
131                 mesh_sta_cleanup(sta);
132
133         cancel_work_sync(&sta->drv_deliver_wk);
134
135         /*
136          * Destroy aggregation state here. It would be nice to wait for the
137          * driver to finish aggregation stop and then clean up, but for now
138          * drivers have to handle aggregation stop being requested, followed
139          * directly by station destruction.
140          */
141         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
142                 kfree(sta->ampdu_mlme.tid_start_tx[i]);
143                 tid_tx = rcu_dereference_raw(sta->ampdu_mlme.tid_tx[i]);
144                 if (!tid_tx)
145                         continue;
146                 ieee80211_purge_tx_queue(&local->hw, &tid_tx->pending);
147                 kfree(tid_tx);
148         }
149 }
150
151 static void cleanup_single_sta(struct sta_info *sta)
152 {
153         struct ieee80211_sub_if_data *sdata = sta->sdata;
154         struct ieee80211_local *local = sdata->local;
155
156         __cleanup_single_sta(sta);
157         sta_info_free(local, sta);
158 }
159
160 /* protected by RCU */
161 struct sta_info *sta_info_get(struct ieee80211_sub_if_data *sdata,
162                               const u8 *addr)
163 {
164         struct ieee80211_local *local = sdata->local;
165         struct sta_info *sta;
166         struct rhash_head *tmp;
167         const struct bucket_table *tbl;
168
169         rcu_read_lock();
170         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
171
172         for_each_sta_info(local, tbl, addr, sta, tmp) {
173                 if (sta->sdata == sdata) {
174                         rcu_read_unlock();
175                         /* this is safe as the caller must already hold
176                          * another rcu read section or the mutex
177                          */
178                         return sta;
179                 }
180         }
181         rcu_read_unlock();
182         return NULL;
183 }
184
185 /*
186  * Get sta info either from the specified interface
187  * or from one of its vlans
188  */
189 struct sta_info *sta_info_get_bss(struct ieee80211_sub_if_data *sdata,
190                                   const u8 *addr)
191 {
192         struct ieee80211_local *local = sdata->local;
193         struct sta_info *sta;
194         struct rhash_head *tmp;
195         const struct bucket_table *tbl;
196
197         rcu_read_lock();
198         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
199
200         for_each_sta_info(local, tbl, addr, sta, tmp) {
201                 if (sta->sdata == sdata ||
202                     (sta->sdata->bss && sta->sdata->bss == sdata->bss)) {
203                         rcu_read_unlock();
204                         /* this is safe as the caller must already hold
205                          * another rcu read section or the mutex
206                          */
207                         return sta;
208                 }
209         }
210         rcu_read_unlock();
211         return NULL;
212 }
213
214 struct sta_info *sta_info_get_by_idx(struct ieee80211_sub_if_data *sdata,
215                                      int idx)
216 {
217         struct ieee80211_local *local = sdata->local;
218         struct sta_info *sta;
219         int i = 0;
220
221         list_for_each_entry_rcu(sta, &local->sta_list, list) {
222                 if (sdata != sta->sdata)
223                         continue;
224                 if (i < idx) {
225                         ++i;
226                         continue;
227                 }
228                 return sta;
229         }
230
231         return NULL;
232 }
233
234 /**
235  * sta_info_free - free STA
236  *
237  * @local: pointer to the global information
238  * @sta: STA info to free
239  *
240  * This function must undo everything done by sta_info_alloc()
241  * that may happen before sta_info_insert(). It may only be
242  * called when sta_info_insert() has not been attempted (and
243  * if that fails, the station is freed anyway.)
244  */
245 void sta_info_free(struct ieee80211_local *local, struct sta_info *sta)
246 {
247         if (sta->rate_ctrl)
248                 rate_control_free_sta(sta);
249
250         sta_dbg(sta->sdata, "Destroyed STA %pM\n", sta->sta.addr);
251
252         if (sta->sta.txq[0])
253                 kfree(to_txq_info(sta->sta.txq[0]));
254         kfree(rcu_dereference_raw(sta->sta.rates));
255 #ifdef CONFIG_MAC80211_MESH
256         kfree(sta->mesh);
257 #endif
258         free_percpu(sta->pcpu_rx_stats);
259         kfree(sta);
260 }
261
262 /* Caller must hold local->sta_mtx */
263 static int sta_info_hash_add(struct ieee80211_local *local,
264                              struct sta_info *sta)
265 {
266         return rhashtable_insert_fast(&local->sta_hash, &sta->hash_node,
267                                       sta_rht_params);
268 }
269
270 static void sta_deliver_ps_frames(struct work_struct *wk)
271 {
272         struct sta_info *sta;
273
274         sta = container_of(wk, struct sta_info, drv_deliver_wk);
275
276         if (sta->dead)
277                 return;
278
279         local_bh_disable();
280         if (!test_sta_flag(sta, WLAN_STA_PS_STA))
281                 ieee80211_sta_ps_deliver_wakeup(sta);
282         else if (test_and_clear_sta_flag(sta, WLAN_STA_PSPOLL))
283                 ieee80211_sta_ps_deliver_poll_response(sta);
284         else if (test_and_clear_sta_flag(sta, WLAN_STA_UAPSD))
285                 ieee80211_sta_ps_deliver_uapsd(sta);
286         local_bh_enable();
287 }
288
289 static int sta_prepare_rate_control(struct ieee80211_local *local,
290                                     struct sta_info *sta, gfp_t gfp)
291 {
292         if (ieee80211_hw_check(&local->hw, HAS_RATE_CONTROL))
293                 return 0;
294
295         sta->rate_ctrl = local->rate_ctrl;
296         sta->rate_ctrl_priv = rate_control_alloc_sta(sta->rate_ctrl,
297                                                      sta, gfp);
298         if (!sta->rate_ctrl_priv)
299                 return -ENOMEM;
300
301         return 0;
302 }
303
304 struct sta_info *sta_info_alloc(struct ieee80211_sub_if_data *sdata,
305                                 const u8 *addr, gfp_t gfp)
306 {
307         struct ieee80211_local *local = sdata->local;
308         struct ieee80211_hw *hw = &local->hw;
309         struct sta_info *sta;
310         int i;
311
312         sta = kzalloc(sizeof(*sta) + hw->sta_data_size, gfp);
313         if (!sta)
314                 return NULL;
315
316         if (ieee80211_hw_check(hw, USES_RSS)) {
317                 sta->pcpu_rx_stats =
318                         alloc_percpu(struct ieee80211_sta_rx_stats);
319                 if (!sta->pcpu_rx_stats)
320                         goto free;
321         }
322
323         spin_lock_init(&sta->lock);
324         spin_lock_init(&sta->ps_lock);
325         INIT_WORK(&sta->drv_deliver_wk, sta_deliver_ps_frames);
326         INIT_WORK(&sta->ampdu_mlme.work, ieee80211_ba_session_work);
327         mutex_init(&sta->ampdu_mlme.mtx);
328 #ifdef CONFIG_MAC80211_MESH
329         if (ieee80211_vif_is_mesh(&sdata->vif)) {
330                 sta->mesh = kzalloc(sizeof(*sta->mesh), gfp);
331                 if (!sta->mesh)
332                         goto free;
333                 spin_lock_init(&sta->mesh->plink_lock);
334                 if (ieee80211_vif_is_mesh(&sdata->vif) &&
335                     !sdata->u.mesh.user_mpm)
336                         init_timer(&sta->mesh->plink_timer);
337                 sta->mesh->nonpeer_pm = NL80211_MESH_POWER_ACTIVE;
338         }
339 #endif
340
341         memcpy(sta->addr, addr, ETH_ALEN);
342         memcpy(sta->sta.addr, addr, ETH_ALEN);
343         sta->sta.max_rx_aggregation_subframes =
344                 local->hw.max_rx_aggregation_subframes;
345
346         sta->local = local;
347         sta->sdata = sdata;
348         sta->rx_stats.last_rx = jiffies;
349
350         u64_stats_init(&sta->rx_stats.syncp);
351
352         sta->sta_state = IEEE80211_STA_NONE;
353
354         /* Mark TID as unreserved */
355         sta->reserved_tid = IEEE80211_TID_UNRESERVED;
356
357         sta->last_connected = ktime_get_seconds();
358         ewma_signal_init(&sta->rx_stats_avg.signal);
359         for (i = 0; i < ARRAY_SIZE(sta->rx_stats_avg.chain_signal); i++)
360                 ewma_signal_init(&sta->rx_stats_avg.chain_signal[i]);
361
362         if (local->ops->wake_tx_queue) {
363                 void *txq_data;
364                 int size = sizeof(struct txq_info) +
365                            ALIGN(hw->txq_data_size, sizeof(void *));
366
367                 txq_data = kcalloc(ARRAY_SIZE(sta->sta.txq), size, gfp);
368                 if (!txq_data)
369                         goto free;
370
371                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
372                         struct txq_info *txq = txq_data + i * size;
373
374                         ieee80211_txq_init(sdata, sta, txq, i);
375                 }
376         }
377
378         if (sta_prepare_rate_control(local, sta, gfp))
379                 goto free_txq;
380
381         for (i = 0; i < IEEE80211_NUM_TIDS; i++) {
382                 /*
383                  * timer_to_tid must be initialized with identity mapping
384                  * to enable session_timer's data differentiation. See
385                  * sta_rx_agg_session_timer_expired for usage.
386                  */
387                 sta->timer_to_tid[i] = i;
388         }
389         for (i = 0; i < IEEE80211_NUM_ACS; i++) {
390                 skb_queue_head_init(&sta->ps_tx_buf[i]);
391                 skb_queue_head_init(&sta->tx_filtered[i]);
392         }
393
394         for (i = 0; i < IEEE80211_NUM_TIDS; i++)
395                 sta->last_seq_ctrl[i] = cpu_to_le16(USHRT_MAX);
396
397         sta->sta.smps_mode = IEEE80211_SMPS_OFF;
398         if (sdata->vif.type == NL80211_IFTYPE_AP ||
399             sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
400                 struct ieee80211_supported_band *sband =
401                         hw->wiphy->bands[ieee80211_get_sdata_band(sdata)];
402                 u8 smps = (sband->ht_cap.cap & IEEE80211_HT_CAP_SM_PS) >>
403                                 IEEE80211_HT_CAP_SM_PS_SHIFT;
404                 /*
405                  * Assume that hostapd advertises our caps in the beacon and
406                  * this is the known_smps_mode for a station that just assciated
407                  */
408                 switch (smps) {
409                 case WLAN_HT_SMPS_CONTROL_DISABLED:
410                         sta->known_smps_mode = IEEE80211_SMPS_OFF;
411                         break;
412                 case WLAN_HT_SMPS_CONTROL_STATIC:
413                         sta->known_smps_mode = IEEE80211_SMPS_STATIC;
414                         break;
415                 case WLAN_HT_SMPS_CONTROL_DYNAMIC:
416                         sta->known_smps_mode = IEEE80211_SMPS_DYNAMIC;
417                         break;
418                 default:
419                         WARN_ON(1);
420                 }
421         }
422
423         sta->sta.max_rc_amsdu_len = IEEE80211_MAX_MPDU_LEN_HT_BA;
424
425         sta_dbg(sdata, "Allocated STA %pM\n", sta->sta.addr);
426
427         return sta;
428
429 free_txq:
430         if (sta->sta.txq[0])
431                 kfree(to_txq_info(sta->sta.txq[0]));
432 free:
433 #ifdef CONFIG_MAC80211_MESH
434         kfree(sta->mesh);
435 #endif
436         kfree(sta);
437         return NULL;
438 }
439
440 static int sta_info_insert_check(struct sta_info *sta)
441 {
442         struct ieee80211_sub_if_data *sdata = sta->sdata;
443
444         /*
445          * Can't be a WARN_ON because it can be triggered through a race:
446          * something inserts a STA (on one CPU) without holding the RTNL
447          * and another CPU turns off the net device.
448          */
449         if (unlikely(!ieee80211_sdata_running(sdata)))
450                 return -ENETDOWN;
451
452         if (WARN_ON(ether_addr_equal(sta->sta.addr, sdata->vif.addr) ||
453                     is_multicast_ether_addr(sta->sta.addr)))
454                 return -EINVAL;
455
456         /* Strictly speaking this isn't necessary as we hold the mutex, but
457          * the rhashtable code can't really deal with that distinction. We
458          * do require the mutex for correctness though.
459          */
460         rcu_read_lock();
461         lockdep_assert_held(&sdata->local->sta_mtx);
462         if (ieee80211_hw_check(&sdata->local->hw, NEEDS_UNIQUE_STA_ADDR) &&
463             ieee80211_find_sta_by_ifaddr(&sdata->local->hw, sta->addr, NULL)) {
464                 rcu_read_unlock();
465                 return -ENOTUNIQ;
466         }
467         rcu_read_unlock();
468
469         return 0;
470 }
471
472 static int sta_info_insert_drv_state(struct ieee80211_local *local,
473                                      struct ieee80211_sub_if_data *sdata,
474                                      struct sta_info *sta)
475 {
476         enum ieee80211_sta_state state;
477         int err = 0;
478
479         for (state = IEEE80211_STA_NOTEXIST; state < sta->sta_state; state++) {
480                 err = drv_sta_state(local, sdata, sta, state, state + 1);
481                 if (err)
482                         break;
483         }
484
485         if (!err) {
486                 /*
487                  * Drivers using legacy sta_add/sta_remove callbacks only
488                  * get uploaded set to true after sta_add is called.
489                  */
490                 if (!local->ops->sta_add)
491                         sta->uploaded = true;
492                 return 0;
493         }
494
495         if (sdata->vif.type == NL80211_IFTYPE_ADHOC) {
496                 sdata_info(sdata,
497                            "failed to move IBSS STA %pM to state %d (%d) - keeping it anyway\n",
498                            sta->sta.addr, state + 1, err);
499                 err = 0;
500         }
501
502         /* unwind on error */
503         for (; state > IEEE80211_STA_NOTEXIST; state--)
504                 WARN_ON(drv_sta_state(local, sdata, sta, state, state - 1));
505
506         return err;
507 }
508
509 /*
510  * should be called with sta_mtx locked
511  * this function replaces the mutex lock
512  * with a RCU lock
513  */
514 static int sta_info_insert_finish(struct sta_info *sta) __acquires(RCU)
515 {
516         struct ieee80211_local *local = sta->local;
517         struct ieee80211_sub_if_data *sdata = sta->sdata;
518         struct station_info *sinfo;
519         int err = 0;
520
521         lockdep_assert_held(&local->sta_mtx);
522
523         sinfo = kzalloc(sizeof(struct station_info), GFP_KERNEL);
524         if (!sinfo) {
525                 err = -ENOMEM;
526                 goto out_err;
527         }
528
529         /* check if STA exists already */
530         if (sta_info_get_bss(sdata, sta->sta.addr)) {
531                 err = -EEXIST;
532                 goto out_err;
533         }
534
535         local->num_sta++;
536         local->sta_generation++;
537         smp_mb();
538
539         /* simplify things and don't accept BA sessions yet */
540         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
541
542         /* make the station visible */
543         err = sta_info_hash_add(local, sta);
544         if (err)
545                 goto out_drop_sta;
546
547         list_add_tail_rcu(&sta->list, &local->sta_list);
548
549         /* notify driver */
550         err = sta_info_insert_drv_state(local, sdata, sta);
551         if (err)
552                 goto out_remove;
553
554         set_sta_flag(sta, WLAN_STA_INSERTED);
555         /* accept BA sessions now */
556         clear_sta_flag(sta, WLAN_STA_BLOCK_BA);
557
558         ieee80211_sta_debugfs_add(sta);
559         rate_control_add_sta_debugfs(sta);
560
561         sinfo->generation = local->sta_generation;
562         cfg80211_new_sta(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
563         kfree(sinfo);
564
565         sta_dbg(sdata, "Inserted STA %pM\n", sta->sta.addr);
566
567         /* move reference to rcu-protected */
568         rcu_read_lock();
569         mutex_unlock(&local->sta_mtx);
570
571         if (ieee80211_vif_is_mesh(&sdata->vif))
572                 mesh_accept_plinks_update(sdata);
573
574         return 0;
575  out_remove:
576         sta_info_hash_del(local, sta);
577         list_del_rcu(&sta->list);
578  out_drop_sta:
579         local->num_sta--;
580         synchronize_net();
581         __cleanup_single_sta(sta);
582  out_err:
583         mutex_unlock(&local->sta_mtx);
584         kfree(sinfo);
585         rcu_read_lock();
586         return err;
587 }
588
589 int sta_info_insert_rcu(struct sta_info *sta) __acquires(RCU)
590 {
591         struct ieee80211_local *local = sta->local;
592         int err;
593
594         might_sleep();
595
596         mutex_lock(&local->sta_mtx);
597
598         err = sta_info_insert_check(sta);
599         if (err) {
600                 mutex_unlock(&local->sta_mtx);
601                 rcu_read_lock();
602                 goto out_free;
603         }
604
605         err = sta_info_insert_finish(sta);
606         if (err)
607                 goto out_free;
608
609         return 0;
610  out_free:
611         sta_info_free(local, sta);
612         return err;
613 }
614
615 int sta_info_insert(struct sta_info *sta)
616 {
617         int err = sta_info_insert_rcu(sta);
618
619         rcu_read_unlock();
620
621         return err;
622 }
623
624 static inline void __bss_tim_set(u8 *tim, u16 id)
625 {
626         /*
627          * This format has been mandated by the IEEE specifications,
628          * so this line may not be changed to use the __set_bit() format.
629          */
630         tim[id / 8] |= (1 << (id % 8));
631 }
632
633 static inline void __bss_tim_clear(u8 *tim, u16 id)
634 {
635         /*
636          * This format has been mandated by the IEEE specifications,
637          * so this line may not be changed to use the __clear_bit() format.
638          */
639         tim[id / 8] &= ~(1 << (id % 8));
640 }
641
642 static inline bool __bss_tim_get(u8 *tim, u16 id)
643 {
644         /*
645          * This format has been mandated by the IEEE specifications,
646          * so this line may not be changed to use the test_bit() format.
647          */
648         return tim[id / 8] & (1 << (id % 8));
649 }
650
651 static unsigned long ieee80211_tids_for_ac(int ac)
652 {
653         /* If we ever support TIDs > 7, this obviously needs to be adjusted */
654         switch (ac) {
655         case IEEE80211_AC_VO:
656                 return BIT(6) | BIT(7);
657         case IEEE80211_AC_VI:
658                 return BIT(4) | BIT(5);
659         case IEEE80211_AC_BE:
660                 return BIT(0) | BIT(3);
661         case IEEE80211_AC_BK:
662                 return BIT(1) | BIT(2);
663         default:
664                 WARN_ON(1);
665                 return 0;
666         }
667 }
668
669 static void __sta_info_recalc_tim(struct sta_info *sta, bool ignore_pending)
670 {
671         struct ieee80211_local *local = sta->local;
672         struct ps_data *ps;
673         bool indicate_tim = false;
674         u8 ignore_for_tim = sta->sta.uapsd_queues;
675         int ac;
676         u16 id = sta->sta.aid;
677
678         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
679             sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN) {
680                 if (WARN_ON_ONCE(!sta->sdata->bss))
681                         return;
682
683                 ps = &sta->sdata->bss->ps;
684 #ifdef CONFIG_MAC80211_MESH
685         } else if (ieee80211_vif_is_mesh(&sta->sdata->vif)) {
686                 ps = &sta->sdata->u.mesh.ps;
687 #endif
688         } else {
689                 return;
690         }
691
692         /* No need to do anything if the driver does all */
693         if (!local->ops->set_tim)
694                 return;
695
696         if (sta->dead)
697                 goto done;
698
699         /*
700          * If all ACs are delivery-enabled then we should build
701          * the TIM bit for all ACs anyway; if only some are then
702          * we ignore those and build the TIM bit using only the
703          * non-enabled ones.
704          */
705         if (ignore_for_tim == BIT(IEEE80211_NUM_ACS) - 1)
706                 ignore_for_tim = 0;
707
708         if (ignore_pending)
709                 ignore_for_tim = BIT(IEEE80211_NUM_ACS) - 1;
710
711         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
712                 unsigned long tids;
713
714                 if (ignore_for_tim & BIT(ac))
715                         continue;
716
717                 indicate_tim |= !skb_queue_empty(&sta->tx_filtered[ac]) ||
718                                 !skb_queue_empty(&sta->ps_tx_buf[ac]);
719                 if (indicate_tim)
720                         break;
721
722                 tids = ieee80211_tids_for_ac(ac);
723
724                 indicate_tim |=
725                         sta->driver_buffered_tids & tids;
726                 indicate_tim |=
727                         sta->txq_buffered_tids & tids;
728         }
729
730  done:
731         spin_lock_bh(&local->tim_lock);
732
733         if (indicate_tim == __bss_tim_get(ps->tim, id))
734                 goto out_unlock;
735
736         if (indicate_tim)
737                 __bss_tim_set(ps->tim, id);
738         else
739                 __bss_tim_clear(ps->tim, id);
740
741         if (local->ops->set_tim && !WARN_ON(sta->dead)) {
742                 local->tim_in_locked_section = true;
743                 drv_set_tim(local, &sta->sta, indicate_tim);
744                 local->tim_in_locked_section = false;
745         }
746
747 out_unlock:
748         spin_unlock_bh(&local->tim_lock);
749 }
750
751 void sta_info_recalc_tim(struct sta_info *sta)
752 {
753         __sta_info_recalc_tim(sta, false);
754 }
755
756 static bool sta_info_buffer_expired(struct sta_info *sta, struct sk_buff *skb)
757 {
758         struct ieee80211_tx_info *info;
759         int timeout;
760
761         if (!skb)
762                 return false;
763
764         info = IEEE80211_SKB_CB(skb);
765
766         /* Timeout: (2 * listen_interval * beacon_int * 1024 / 1000000) sec */
767         timeout = (sta->listen_interval *
768                    sta->sdata->vif.bss_conf.beacon_int *
769                    32 / 15625) * HZ;
770         if (timeout < STA_TX_BUFFER_EXPIRE)
771                 timeout = STA_TX_BUFFER_EXPIRE;
772         return time_after(jiffies, info->control.jiffies + timeout);
773 }
774
775
776 static bool sta_info_cleanup_expire_buffered_ac(struct ieee80211_local *local,
777                                                 struct sta_info *sta, int ac)
778 {
779         unsigned long flags;
780         struct sk_buff *skb;
781
782         /*
783          * First check for frames that should expire on the filtered
784          * queue. Frames here were rejected by the driver and are on
785          * a separate queue to avoid reordering with normal PS-buffered
786          * frames. They also aren't accounted for right now in the
787          * total_ps_buffered counter.
788          */
789         for (;;) {
790                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
791                 skb = skb_peek(&sta->tx_filtered[ac]);
792                 if (sta_info_buffer_expired(sta, skb))
793                         skb = __skb_dequeue(&sta->tx_filtered[ac]);
794                 else
795                         skb = NULL;
796                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
797
798                 /*
799                  * Frames are queued in order, so if this one
800                  * hasn't expired yet we can stop testing. If
801                  * we actually reached the end of the queue we
802                  * also need to stop, of course.
803                  */
804                 if (!skb)
805                         break;
806                 ieee80211_free_txskb(&local->hw, skb);
807         }
808
809         /*
810          * Now also check the normal PS-buffered queue, this will
811          * only find something if the filtered queue was emptied
812          * since the filtered frames are all before the normal PS
813          * buffered frames.
814          */
815         for (;;) {
816                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
817                 skb = skb_peek(&sta->ps_tx_buf[ac]);
818                 if (sta_info_buffer_expired(sta, skb))
819                         skb = __skb_dequeue(&sta->ps_tx_buf[ac]);
820                 else
821                         skb = NULL;
822                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
823
824                 /*
825                  * frames are queued in order, so if this one
826                  * hasn't expired yet (or we reached the end of
827                  * the queue) we can stop testing
828                  */
829                 if (!skb)
830                         break;
831
832                 local->total_ps_buffered--;
833                 ps_dbg(sta->sdata, "Buffered frame expired (STA %pM)\n",
834                        sta->sta.addr);
835                 ieee80211_free_txskb(&local->hw, skb);
836         }
837
838         /*
839          * Finally, recalculate the TIM bit for this station -- it might
840          * now be clear because the station was too slow to retrieve its
841          * frames.
842          */
843         sta_info_recalc_tim(sta);
844
845         /*
846          * Return whether there are any frames still buffered, this is
847          * used to check whether the cleanup timer still needs to run,
848          * if there are no frames we don't need to rearm the timer.
849          */
850         return !(skb_queue_empty(&sta->ps_tx_buf[ac]) &&
851                  skb_queue_empty(&sta->tx_filtered[ac]));
852 }
853
854 static bool sta_info_cleanup_expire_buffered(struct ieee80211_local *local,
855                                              struct sta_info *sta)
856 {
857         bool have_buffered = false;
858         int ac;
859
860         /* This is only necessary for stations on BSS/MBSS interfaces */
861         if (!sta->sdata->bss &&
862             !ieee80211_vif_is_mesh(&sta->sdata->vif))
863                 return false;
864
865         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
866                 have_buffered |=
867                         sta_info_cleanup_expire_buffered_ac(local, sta, ac);
868
869         return have_buffered;
870 }
871
872 static int __must_check __sta_info_destroy_part1(struct sta_info *sta)
873 {
874         struct ieee80211_local *local;
875         struct ieee80211_sub_if_data *sdata;
876         int ret;
877
878         might_sleep();
879
880         if (!sta)
881                 return -ENOENT;
882
883         local = sta->local;
884         sdata = sta->sdata;
885
886         lockdep_assert_held(&local->sta_mtx);
887
888         /*
889          * Before removing the station from the driver and
890          * rate control, it might still start new aggregation
891          * sessions -- block that to make sure the tear-down
892          * will be sufficient.
893          */
894         set_sta_flag(sta, WLAN_STA_BLOCK_BA);
895         ieee80211_sta_tear_down_BA_sessions(sta, AGG_STOP_DESTROY_STA);
896
897         /*
898          * Before removing the station from the driver there might be pending
899          * rx frames on RSS queues sent prior to the disassociation - wait for
900          * all such frames to be processed.
901          */
902         drv_sync_rx_queues(local, sta);
903
904         ret = sta_info_hash_del(local, sta);
905         if (WARN_ON(ret))
906                 return ret;
907
908         /*
909          * for TDLS peers, make sure to return to the base channel before
910          * removal.
911          */
912         if (test_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL)) {
913                 drv_tdls_cancel_channel_switch(local, sdata, &sta->sta);
914                 clear_sta_flag(sta, WLAN_STA_TDLS_OFF_CHANNEL);
915         }
916
917         list_del_rcu(&sta->list);
918         sta->removed = true;
919
920         drv_sta_pre_rcu_remove(local, sta->sdata, sta);
921
922         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
923             rcu_access_pointer(sdata->u.vlan.sta) == sta)
924                 RCU_INIT_POINTER(sdata->u.vlan.sta, NULL);
925
926         return 0;
927 }
928
929 static void __sta_info_destroy_part2(struct sta_info *sta)
930 {
931         struct ieee80211_local *local = sta->local;
932         struct ieee80211_sub_if_data *sdata = sta->sdata;
933         struct station_info *sinfo;
934         int ret;
935
936         /*
937          * NOTE: This assumes at least synchronize_net() was done
938          *       after _part1 and before _part2!
939          */
940
941         might_sleep();
942         lockdep_assert_held(&local->sta_mtx);
943
944         /* now keys can no longer be reached */
945         ieee80211_free_sta_keys(local, sta);
946
947         /* disable TIM bit - last chance to tell driver */
948         __sta_info_recalc_tim(sta, true);
949
950         sta->dead = true;
951
952         local->num_sta--;
953         local->sta_generation++;
954
955         while (sta->sta_state > IEEE80211_STA_NONE) {
956                 ret = sta_info_move_state(sta, sta->sta_state - 1);
957                 if (ret) {
958                         WARN_ON_ONCE(1);
959                         break;
960                 }
961         }
962
963         if (sta->uploaded) {
964                 ret = drv_sta_state(local, sdata, sta, IEEE80211_STA_NONE,
965                                     IEEE80211_STA_NOTEXIST);
966                 WARN_ON_ONCE(ret != 0);
967         }
968
969         sta_dbg(sdata, "Removed STA %pM\n", sta->sta.addr);
970
971         sinfo = kzalloc(sizeof(*sinfo), GFP_KERNEL);
972         if (sinfo)
973                 sta_set_sinfo(sta, sinfo);
974         cfg80211_del_sta_sinfo(sdata->dev, sta->sta.addr, sinfo, GFP_KERNEL);
975         kfree(sinfo);
976
977         rate_control_remove_sta_debugfs(sta);
978         ieee80211_sta_debugfs_remove(sta);
979
980         cleanup_single_sta(sta);
981 }
982
983 int __must_check __sta_info_destroy(struct sta_info *sta)
984 {
985         int err = __sta_info_destroy_part1(sta);
986
987         if (err)
988                 return err;
989
990         synchronize_net();
991
992         __sta_info_destroy_part2(sta);
993
994         return 0;
995 }
996
997 int sta_info_destroy_addr(struct ieee80211_sub_if_data *sdata, const u8 *addr)
998 {
999         struct sta_info *sta;
1000         int ret;
1001
1002         mutex_lock(&sdata->local->sta_mtx);
1003         sta = sta_info_get(sdata, addr);
1004         ret = __sta_info_destroy(sta);
1005         mutex_unlock(&sdata->local->sta_mtx);
1006
1007         return ret;
1008 }
1009
1010 int sta_info_destroy_addr_bss(struct ieee80211_sub_if_data *sdata,
1011                               const u8 *addr)
1012 {
1013         struct sta_info *sta;
1014         int ret;
1015
1016         mutex_lock(&sdata->local->sta_mtx);
1017         sta = sta_info_get_bss(sdata, addr);
1018         ret = __sta_info_destroy(sta);
1019         mutex_unlock(&sdata->local->sta_mtx);
1020
1021         return ret;
1022 }
1023
1024 static void sta_info_cleanup(unsigned long data)
1025 {
1026         struct ieee80211_local *local = (struct ieee80211_local *) data;
1027         struct sta_info *sta;
1028         bool timer_needed = false;
1029
1030         rcu_read_lock();
1031         list_for_each_entry_rcu(sta, &local->sta_list, list)
1032                 if (sta_info_cleanup_expire_buffered(local, sta))
1033                         timer_needed = true;
1034         rcu_read_unlock();
1035
1036         if (local->quiescing)
1037                 return;
1038
1039         if (!timer_needed)
1040                 return;
1041
1042         mod_timer(&local->sta_cleanup,
1043                   round_jiffies(jiffies + STA_INFO_CLEANUP_INTERVAL));
1044 }
1045
1046 u32 sta_addr_hash(const void *key, u32 length, u32 seed)
1047 {
1048         return jhash(key, ETH_ALEN, seed);
1049 }
1050
1051 int sta_info_init(struct ieee80211_local *local)
1052 {
1053         int err;
1054
1055         err = rhashtable_init(&local->sta_hash, &sta_rht_params);
1056         if (err)
1057                 return err;
1058
1059         spin_lock_init(&local->tim_lock);
1060         mutex_init(&local->sta_mtx);
1061         INIT_LIST_HEAD(&local->sta_list);
1062
1063         setup_timer(&local->sta_cleanup, sta_info_cleanup,
1064                     (unsigned long)local);
1065         return 0;
1066 }
1067
1068 void sta_info_stop(struct ieee80211_local *local)
1069 {
1070         del_timer_sync(&local->sta_cleanup);
1071         rhashtable_destroy(&local->sta_hash);
1072 }
1073
1074
1075 int __sta_info_flush(struct ieee80211_sub_if_data *sdata, bool vlans)
1076 {
1077         struct ieee80211_local *local = sdata->local;
1078         struct sta_info *sta, *tmp;
1079         LIST_HEAD(free_list);
1080         int ret = 0;
1081
1082         might_sleep();
1083
1084         WARN_ON(vlans && sdata->vif.type != NL80211_IFTYPE_AP);
1085         WARN_ON(vlans && !sdata->bss);
1086
1087         mutex_lock(&local->sta_mtx);
1088         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1089                 if (sdata == sta->sdata ||
1090                     (vlans && sdata->bss == sta->sdata->bss)) {
1091                         if (!WARN_ON(__sta_info_destroy_part1(sta)))
1092                                 list_add(&sta->free_list, &free_list);
1093                         ret++;
1094                 }
1095         }
1096
1097         if (!list_empty(&free_list)) {
1098                 synchronize_net();
1099                 list_for_each_entry_safe(sta, tmp, &free_list, free_list)
1100                         __sta_info_destroy_part2(sta);
1101         }
1102         mutex_unlock(&local->sta_mtx);
1103
1104         return ret;
1105 }
1106
1107 void ieee80211_sta_expire(struct ieee80211_sub_if_data *sdata,
1108                           unsigned long exp_time)
1109 {
1110         struct ieee80211_local *local = sdata->local;
1111         struct sta_info *sta, *tmp;
1112
1113         mutex_lock(&local->sta_mtx);
1114
1115         list_for_each_entry_safe(sta, tmp, &local->sta_list, list) {
1116                 unsigned long last_active = ieee80211_sta_last_active(sta);
1117
1118                 if (sdata != sta->sdata)
1119                         continue;
1120
1121                 if (time_is_before_jiffies(last_active + exp_time)) {
1122                         sta_dbg(sta->sdata, "expiring inactive STA %pM\n",
1123                                 sta->sta.addr);
1124
1125                         if (ieee80211_vif_is_mesh(&sdata->vif) &&
1126                             test_sta_flag(sta, WLAN_STA_PS_STA))
1127                                 atomic_dec(&sdata->u.mesh.ps.num_sta_ps);
1128
1129                         WARN_ON(__sta_info_destroy(sta));
1130                 }
1131         }
1132
1133         mutex_unlock(&local->sta_mtx);
1134 }
1135
1136 struct ieee80211_sta *ieee80211_find_sta_by_ifaddr(struct ieee80211_hw *hw,
1137                                                    const u8 *addr,
1138                                                    const u8 *localaddr)
1139 {
1140         struct ieee80211_local *local = hw_to_local(hw);
1141         struct sta_info *sta;
1142         struct rhash_head *tmp;
1143         const struct bucket_table *tbl;
1144
1145         tbl = rht_dereference_rcu(local->sta_hash.tbl, &local->sta_hash);
1146
1147         /*
1148          * Just return a random station if localaddr is NULL
1149          * ... first in list.
1150          */
1151         for_each_sta_info(local, tbl, addr, sta, tmp) {
1152                 if (localaddr &&
1153                     !ether_addr_equal(sta->sdata->vif.addr, localaddr))
1154                         continue;
1155                 if (!sta->uploaded)
1156                         return NULL;
1157                 return &sta->sta;
1158         }
1159
1160         return NULL;
1161 }
1162 EXPORT_SYMBOL_GPL(ieee80211_find_sta_by_ifaddr);
1163
1164 struct ieee80211_sta *ieee80211_find_sta(struct ieee80211_vif *vif,
1165                                          const u8 *addr)
1166 {
1167         struct sta_info *sta;
1168
1169         if (!vif)
1170                 return NULL;
1171
1172         sta = sta_info_get_bss(vif_to_sdata(vif), addr);
1173         if (!sta)
1174                 return NULL;
1175
1176         if (!sta->uploaded)
1177                 return NULL;
1178
1179         return &sta->sta;
1180 }
1181 EXPORT_SYMBOL(ieee80211_find_sta);
1182
1183 /* powersave support code */
1184 void ieee80211_sta_ps_deliver_wakeup(struct sta_info *sta)
1185 {
1186         struct ieee80211_sub_if_data *sdata = sta->sdata;
1187         struct ieee80211_local *local = sdata->local;
1188         struct sk_buff_head pending;
1189         int filtered = 0, buffered = 0, ac, i;
1190         unsigned long flags;
1191         struct ps_data *ps;
1192
1193         if (sdata->vif.type == NL80211_IFTYPE_AP_VLAN)
1194                 sdata = container_of(sdata->bss, struct ieee80211_sub_if_data,
1195                                      u.ap);
1196
1197         if (sdata->vif.type == NL80211_IFTYPE_AP)
1198                 ps = &sdata->bss->ps;
1199         else if (ieee80211_vif_is_mesh(&sdata->vif))
1200                 ps = &sdata->u.mesh.ps;
1201         else
1202                 return;
1203
1204         clear_sta_flag(sta, WLAN_STA_SP);
1205
1206         BUILD_BUG_ON(BITS_TO_LONGS(IEEE80211_NUM_TIDS) > 1);
1207         sta->driver_buffered_tids = 0;
1208         sta->txq_buffered_tids = 0;
1209
1210         if (!ieee80211_hw_check(&local->hw, AP_LINK_PS))
1211                 drv_sta_notify(local, sdata, STA_NOTIFY_AWAKE, &sta->sta);
1212
1213         if (sta->sta.txq[0]) {
1214                 for (i = 0; i < ARRAY_SIZE(sta->sta.txq); i++) {
1215                         if (!txq_has_queue(sta->sta.txq[i]))
1216                                 continue;
1217
1218                         drv_wake_tx_queue(local, to_txq_info(sta->sta.txq[i]));
1219                 }
1220         }
1221
1222         skb_queue_head_init(&pending);
1223
1224         /* sync with ieee80211_tx_h_unicast_ps_buf */
1225         spin_lock(&sta->ps_lock);
1226         /* Send all buffered frames to the station */
1227         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1228                 int count = skb_queue_len(&pending), tmp;
1229
1230                 spin_lock_irqsave(&sta->tx_filtered[ac].lock, flags);
1231                 skb_queue_splice_tail_init(&sta->tx_filtered[ac], &pending);
1232                 spin_unlock_irqrestore(&sta->tx_filtered[ac].lock, flags);
1233                 tmp = skb_queue_len(&pending);
1234                 filtered += tmp - count;
1235                 count = tmp;
1236
1237                 spin_lock_irqsave(&sta->ps_tx_buf[ac].lock, flags);
1238                 skb_queue_splice_tail_init(&sta->ps_tx_buf[ac], &pending);
1239                 spin_unlock_irqrestore(&sta->ps_tx_buf[ac].lock, flags);
1240                 tmp = skb_queue_len(&pending);
1241                 buffered += tmp - count;
1242         }
1243
1244         ieee80211_add_pending_skbs(local, &pending);
1245
1246         /* now we're no longer in the deliver code */
1247         clear_sta_flag(sta, WLAN_STA_PS_DELIVER);
1248
1249         /* The station might have polled and then woken up before we responded,
1250          * so clear these flags now to avoid them sticking around.
1251          */
1252         clear_sta_flag(sta, WLAN_STA_PSPOLL);
1253         clear_sta_flag(sta, WLAN_STA_UAPSD);
1254         spin_unlock(&sta->ps_lock);
1255
1256         atomic_dec(&ps->num_sta_ps);
1257
1258         /* This station just woke up and isn't aware of our SMPS state */
1259         if (!ieee80211_vif_is_mesh(&sdata->vif) &&
1260             !ieee80211_smps_is_restrictive(sta->known_smps_mode,
1261                                            sdata->smps_mode) &&
1262             sta->known_smps_mode != sdata->bss->req_smps &&
1263             sta_info_tx_streams(sta) != 1) {
1264                 ht_dbg(sdata,
1265                        "%pM just woke up and MIMO capable - update SMPS\n",
1266                        sta->sta.addr);
1267                 ieee80211_send_smps_action(sdata, sdata->bss->req_smps,
1268                                            sta->sta.addr,
1269                                            sdata->vif.bss_conf.bssid);
1270         }
1271
1272         local->total_ps_buffered -= buffered;
1273
1274         sta_info_recalc_tim(sta);
1275
1276         ps_dbg(sdata,
1277                "STA %pM aid %d sending %d filtered/%d PS frames since STA not sleeping anymore\n",
1278                sta->sta.addr, sta->sta.aid, filtered, buffered);
1279
1280         ieee80211_check_fast_xmit(sta);
1281 }
1282
1283 static void ieee80211_send_null_response(struct sta_info *sta, int tid,
1284                                          enum ieee80211_frame_release_type reason,
1285                                          bool call_driver, bool more_data)
1286 {
1287         struct ieee80211_sub_if_data *sdata = sta->sdata;
1288         struct ieee80211_local *local = sdata->local;
1289         struct ieee80211_qos_hdr *nullfunc;
1290         struct sk_buff *skb;
1291         int size = sizeof(*nullfunc);
1292         __le16 fc;
1293         bool qos = sta->sta.wme;
1294         struct ieee80211_tx_info *info;
1295         struct ieee80211_chanctx_conf *chanctx_conf;
1296
1297         if (qos) {
1298                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1299                                  IEEE80211_STYPE_QOS_NULLFUNC |
1300                                  IEEE80211_FCTL_FROMDS);
1301         } else {
1302                 size -= 2;
1303                 fc = cpu_to_le16(IEEE80211_FTYPE_DATA |
1304                                  IEEE80211_STYPE_NULLFUNC |
1305                                  IEEE80211_FCTL_FROMDS);
1306         }
1307
1308         skb = dev_alloc_skb(local->hw.extra_tx_headroom + size);
1309         if (!skb)
1310                 return;
1311
1312         skb_reserve(skb, local->hw.extra_tx_headroom);
1313
1314         nullfunc = (void *) skb_put(skb, size);
1315         nullfunc->frame_control = fc;
1316         nullfunc->duration_id = 0;
1317         memcpy(nullfunc->addr1, sta->sta.addr, ETH_ALEN);
1318         memcpy(nullfunc->addr2, sdata->vif.addr, ETH_ALEN);
1319         memcpy(nullfunc->addr3, sdata->vif.addr, ETH_ALEN);
1320         nullfunc->seq_ctrl = 0;
1321
1322         skb->priority = tid;
1323         skb_set_queue_mapping(skb, ieee802_1d_to_ac[tid]);
1324         if (qos) {
1325                 nullfunc->qos_ctrl = cpu_to_le16(tid);
1326
1327                 if (reason == IEEE80211_FRAME_RELEASE_UAPSD) {
1328                         nullfunc->qos_ctrl |=
1329                                 cpu_to_le16(IEEE80211_QOS_CTL_EOSP);
1330                         if (more_data)
1331                                 nullfunc->frame_control |=
1332                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1333                 }
1334         }
1335
1336         info = IEEE80211_SKB_CB(skb);
1337
1338         /*
1339          * Tell TX path to send this frame even though the
1340          * STA may still remain is PS mode after this frame
1341          * exchange. Also set EOSP to indicate this packet
1342          * ends the poll/service period.
1343          */
1344         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER |
1345                        IEEE80211_TX_STATUS_EOSP |
1346                        IEEE80211_TX_CTL_REQ_TX_STATUS;
1347
1348         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1349
1350         if (call_driver)
1351                 drv_allow_buffered_frames(local, sta, BIT(tid), 1,
1352                                           reason, false);
1353
1354         skb->dev = sdata->dev;
1355
1356         rcu_read_lock();
1357         chanctx_conf = rcu_dereference(sdata->vif.chanctx_conf);
1358         if (WARN_ON(!chanctx_conf)) {
1359                 rcu_read_unlock();
1360                 kfree_skb(skb);
1361                 return;
1362         }
1363
1364         info->band = chanctx_conf->def.chan->band;
1365         ieee80211_xmit(sdata, sta, skb);
1366         rcu_read_unlock();
1367 }
1368
1369 static int find_highest_prio_tid(unsigned long tids)
1370 {
1371         /* lower 3 TIDs aren't ordered perfectly */
1372         if (tids & 0xF8)
1373                 return fls(tids) - 1;
1374         /* TID 0 is BE just like TID 3 */
1375         if (tids & BIT(0))
1376                 return 0;
1377         return fls(tids) - 1;
1378 }
1379
1380 /* Indicates if the MORE_DATA bit should be set in the last
1381  * frame obtained by ieee80211_sta_ps_get_frames.
1382  * Note that driver_release_tids is relevant only if
1383  * reason = IEEE80211_FRAME_RELEASE_PSPOLL
1384  */
1385 static bool
1386 ieee80211_sta_ps_more_data(struct sta_info *sta, u8 ignored_acs,
1387                            enum ieee80211_frame_release_type reason,
1388                            unsigned long driver_release_tids)
1389 {
1390         int ac;
1391
1392         /* If the driver has data on more than one TID then
1393          * certainly there's more data if we release just a
1394          * single frame now (from a single TID). This will
1395          * only happen for PS-Poll.
1396          */
1397         if (reason == IEEE80211_FRAME_RELEASE_PSPOLL &&
1398             hweight16(driver_release_tids) > 1)
1399                 return true;
1400
1401         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1402                 if (ignored_acs & BIT(ac))
1403                         continue;
1404
1405                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1406                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1407                         return true;
1408         }
1409
1410         return false;
1411 }
1412
1413 static void
1414 ieee80211_sta_ps_get_frames(struct sta_info *sta, int n_frames, u8 ignored_acs,
1415                             enum ieee80211_frame_release_type reason,
1416                             struct sk_buff_head *frames,
1417                             unsigned long *driver_release_tids)
1418 {
1419         struct ieee80211_sub_if_data *sdata = sta->sdata;
1420         struct ieee80211_local *local = sdata->local;
1421         int ac;
1422
1423         /* Get response frame(s) and more data bit for the last one. */
1424         for (ac = 0; ac < IEEE80211_NUM_ACS; ac++) {
1425                 unsigned long tids;
1426
1427                 if (ignored_acs & BIT(ac))
1428                         continue;
1429
1430                 tids = ieee80211_tids_for_ac(ac);
1431
1432                 /* if we already have frames from software, then we can't also
1433                  * release from hardware queues
1434                  */
1435                 if (skb_queue_empty(frames)) {
1436                         *driver_release_tids |=
1437                                 sta->driver_buffered_tids & tids;
1438                         *driver_release_tids |= sta->txq_buffered_tids & tids;
1439                 }
1440
1441                 if (!*driver_release_tids) {
1442                         struct sk_buff *skb;
1443
1444                         while (n_frames > 0) {
1445                                 skb = skb_dequeue(&sta->tx_filtered[ac]);
1446                                 if (!skb) {
1447                                         skb = skb_dequeue(
1448                                                 &sta->ps_tx_buf[ac]);
1449                                         if (skb)
1450                                                 local->total_ps_buffered--;
1451                                 }
1452                                 if (!skb)
1453                                         break;
1454                                 n_frames--;
1455                                 __skb_queue_tail(frames, skb);
1456                         }
1457                 }
1458
1459                 /* If we have more frames buffered on this AC, then abort the
1460                  * loop since we can't send more data from other ACs before
1461                  * the buffered frames from this.
1462                  */
1463                 if (!skb_queue_empty(&sta->tx_filtered[ac]) ||
1464                     !skb_queue_empty(&sta->ps_tx_buf[ac]))
1465                         break;
1466         }
1467 }
1468
1469 static void
1470 ieee80211_sta_ps_deliver_response(struct sta_info *sta,
1471                                   int n_frames, u8 ignored_acs,
1472                                   enum ieee80211_frame_release_type reason)
1473 {
1474         struct ieee80211_sub_if_data *sdata = sta->sdata;
1475         struct ieee80211_local *local = sdata->local;
1476         unsigned long driver_release_tids = 0;
1477         struct sk_buff_head frames;
1478         bool more_data;
1479
1480         /* Service or PS-Poll period starts */
1481         set_sta_flag(sta, WLAN_STA_SP);
1482
1483         __skb_queue_head_init(&frames);
1484
1485         ieee80211_sta_ps_get_frames(sta, n_frames, ignored_acs, reason,
1486                                     &frames, &driver_release_tids);
1487
1488         more_data = ieee80211_sta_ps_more_data(sta, ignored_acs, reason, driver_release_tids);
1489
1490         if (driver_release_tids && reason == IEEE80211_FRAME_RELEASE_PSPOLL)
1491                 driver_release_tids =
1492                         BIT(find_highest_prio_tid(driver_release_tids));
1493
1494         if (skb_queue_empty(&frames) && !driver_release_tids) {
1495                 int tid;
1496
1497                 /*
1498                  * For PS-Poll, this can only happen due to a race condition
1499                  * when we set the TIM bit and the station notices it, but
1500                  * before it can poll for the frame we expire it.
1501                  *
1502                  * For uAPSD, this is said in the standard (11.2.1.5 h):
1503                  *      At each unscheduled SP for a non-AP STA, the AP shall
1504                  *      attempt to transmit at least one MSDU or MMPDU, but no
1505                  *      more than the value specified in the Max SP Length field
1506                  *      in the QoS Capability element from delivery-enabled ACs,
1507                  *      that are destined for the non-AP STA.
1508                  *
1509                  * Since we have no other MSDU/MMPDU, transmit a QoS null frame.
1510                  */
1511
1512                 /* This will evaluate to 1, 3, 5 or 7. */
1513                 tid = 7 - ((ffs(~ignored_acs) - 1) << 1);
1514
1515                 ieee80211_send_null_response(sta, tid, reason, true, false);
1516         } else if (!driver_release_tids) {
1517                 struct sk_buff_head pending;
1518                 struct sk_buff *skb;
1519                 int num = 0;
1520                 u16 tids = 0;
1521                 bool need_null = false;
1522
1523                 skb_queue_head_init(&pending);
1524
1525                 while ((skb = __skb_dequeue(&frames))) {
1526                         struct ieee80211_tx_info *info = IEEE80211_SKB_CB(skb);
1527                         struct ieee80211_hdr *hdr = (void *) skb->data;
1528                         u8 *qoshdr = NULL;
1529
1530                         num++;
1531
1532                         /*
1533                          * Tell TX path to send this frame even though the
1534                          * STA may still remain is PS mode after this frame
1535                          * exchange.
1536                          */
1537                         info->flags |= IEEE80211_TX_CTL_NO_PS_BUFFER;
1538                         info->control.flags |= IEEE80211_TX_CTRL_PS_RESPONSE;
1539
1540                         /*
1541                          * Use MoreData flag to indicate whether there are
1542                          * more buffered frames for this STA
1543                          */
1544                         if (more_data || !skb_queue_empty(&frames))
1545                                 hdr->frame_control |=
1546                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1547                         else
1548                                 hdr->frame_control &=
1549                                         cpu_to_le16(~IEEE80211_FCTL_MOREDATA);
1550
1551                         if (ieee80211_is_data_qos(hdr->frame_control) ||
1552                             ieee80211_is_qos_nullfunc(hdr->frame_control))
1553                                 qoshdr = ieee80211_get_qos_ctl(hdr);
1554
1555                         tids |= BIT(skb->priority);
1556
1557                         __skb_queue_tail(&pending, skb);
1558
1559                         /* end service period after last frame or add one */
1560                         if (!skb_queue_empty(&frames))
1561                                 continue;
1562
1563                         if (reason != IEEE80211_FRAME_RELEASE_UAPSD) {
1564                                 /* for PS-Poll, there's only one frame */
1565                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1566                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1567                                 break;
1568                         }
1569
1570                         /* For uAPSD, things are a bit more complicated. If the
1571                          * last frame has a QoS header (i.e. is a QoS-data or
1572                          * QoS-nulldata frame) then just set the EOSP bit there
1573                          * and be done.
1574                          * If the frame doesn't have a QoS header (which means
1575                          * it should be a bufferable MMPDU) then we can't set
1576                          * the EOSP bit in the QoS header; add a QoS-nulldata
1577                          * frame to the list to send it after the MMPDU.
1578                          *
1579                          * Note that this code is only in the mac80211-release
1580                          * code path, we assume that the driver will not buffer
1581                          * anything but QoS-data frames, or if it does, will
1582                          * create the QoS-nulldata frame by itself if needed.
1583                          *
1584                          * Cf. 802.11-2012 10.2.1.10 (c).
1585                          */
1586                         if (qoshdr) {
1587                                 *qoshdr |= IEEE80211_QOS_CTL_EOSP;
1588
1589                                 info->flags |= IEEE80211_TX_STATUS_EOSP |
1590                                                IEEE80211_TX_CTL_REQ_TX_STATUS;
1591                         } else {
1592                                 /* The standard isn't completely clear on this
1593                                  * as it says the more-data bit should be set
1594                                  * if there are more BUs. The QoS-Null frame
1595                                  * we're about to send isn't buffered yet, we
1596                                  * only create it below, but let's pretend it
1597                                  * was buffered just in case some clients only
1598                                  * expect more-data=0 when eosp=1.
1599                                  */
1600                                 hdr->frame_control |=
1601                                         cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1602                                 need_null = true;
1603                                 num++;
1604                         }
1605                         break;
1606                 }
1607
1608                 drv_allow_buffered_frames(local, sta, tids, num,
1609                                           reason, more_data);
1610
1611                 ieee80211_add_pending_skbs(local, &pending);
1612
1613                 if (need_null)
1614                         ieee80211_send_null_response(
1615                                 sta, find_highest_prio_tid(tids),
1616                                 reason, false, false);
1617
1618                 sta_info_recalc_tim(sta);
1619         } else {
1620                 unsigned long tids = sta->txq_buffered_tids & driver_release_tids;
1621                 int tid;
1622
1623                 /*
1624                  * We need to release a frame that is buffered somewhere in the
1625                  * driver ... it'll have to handle that.
1626                  * Note that the driver also has to check the number of frames
1627                  * on the TIDs we're releasing from - if there are more than
1628                  * n_frames it has to set the more-data bit (if we didn't ask
1629                  * it to set it anyway due to other buffered frames); if there
1630                  * are fewer than n_frames it has to make sure to adjust that
1631                  * to allow the service period to end properly.
1632                  */
1633                 drv_release_buffered_frames(local, sta, driver_release_tids,
1634                                             n_frames, reason, more_data);
1635
1636                 /*
1637                  * Note that we don't recalculate the TIM bit here as it would
1638                  * most likely have no effect at all unless the driver told us
1639                  * that the TID(s) became empty before returning here from the
1640                  * release function.
1641                  * Either way, however, when the driver tells us that the TID(s)
1642                  * became empty or we find that a txq became empty, we'll do the
1643                  * TIM recalculation.
1644                  */
1645
1646                 if (!sta->sta.txq[0])
1647                         return;
1648
1649                 for (tid = 0; tid < ARRAY_SIZE(sta->sta.txq); tid++) {
1650                         if (!(tids & BIT(tid)) || txq_has_queue(sta->sta.txq[tid]))
1651                                 continue;
1652
1653                         sta_info_recalc_tim(sta);
1654                         break;
1655                 }
1656         }
1657 }
1658
1659 void ieee80211_sta_ps_deliver_poll_response(struct sta_info *sta)
1660 {
1661         u8 ignore_for_response = sta->sta.uapsd_queues;
1662
1663         /*
1664          * If all ACs are delivery-enabled then we should reply
1665          * from any of them, if only some are enabled we reply
1666          * only from the non-enabled ones.
1667          */
1668         if (ignore_for_response == BIT(IEEE80211_NUM_ACS) - 1)
1669                 ignore_for_response = 0;
1670
1671         ieee80211_sta_ps_deliver_response(sta, 1, ignore_for_response,
1672                                           IEEE80211_FRAME_RELEASE_PSPOLL);
1673 }
1674
1675 void ieee80211_sta_ps_deliver_uapsd(struct sta_info *sta)
1676 {
1677         int n_frames = sta->sta.max_sp;
1678         u8 delivery_enabled = sta->sta.uapsd_queues;
1679
1680         /*
1681          * If we ever grow support for TSPEC this might happen if
1682          * the TSPEC update from hostapd comes in between a trigger
1683          * frame setting WLAN_STA_UAPSD in the RX path and this
1684          * actually getting called.
1685          */
1686         if (!delivery_enabled)
1687                 return;
1688
1689         switch (sta->sta.max_sp) {
1690         case 1:
1691                 n_frames = 2;
1692                 break;
1693         case 2:
1694                 n_frames = 4;
1695                 break;
1696         case 3:
1697                 n_frames = 6;
1698                 break;
1699         case 0:
1700                 /* XXX: what is a good value? */
1701                 n_frames = 128;
1702                 break;
1703         }
1704
1705         ieee80211_sta_ps_deliver_response(sta, n_frames, ~delivery_enabled,
1706                                           IEEE80211_FRAME_RELEASE_UAPSD);
1707 }
1708
1709 void ieee80211_sta_block_awake(struct ieee80211_hw *hw,
1710                                struct ieee80211_sta *pubsta, bool block)
1711 {
1712         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1713
1714         trace_api_sta_block_awake(sta->local, pubsta, block);
1715
1716         if (block) {
1717                 set_sta_flag(sta, WLAN_STA_PS_DRIVER);
1718                 ieee80211_clear_fast_xmit(sta);
1719                 return;
1720         }
1721
1722         if (!test_sta_flag(sta, WLAN_STA_PS_DRIVER))
1723                 return;
1724
1725         if (!test_sta_flag(sta, WLAN_STA_PS_STA)) {
1726                 set_sta_flag(sta, WLAN_STA_PS_DELIVER);
1727                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1728                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1729         } else if (test_sta_flag(sta, WLAN_STA_PSPOLL) ||
1730                    test_sta_flag(sta, WLAN_STA_UAPSD)) {
1731                 /* must be asleep in this case */
1732                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1733                 ieee80211_queue_work(hw, &sta->drv_deliver_wk);
1734         } else {
1735                 clear_sta_flag(sta, WLAN_STA_PS_DRIVER);
1736                 ieee80211_check_fast_xmit(sta);
1737         }
1738 }
1739 EXPORT_SYMBOL(ieee80211_sta_block_awake);
1740
1741 void ieee80211_sta_eosp(struct ieee80211_sta *pubsta)
1742 {
1743         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1744         struct ieee80211_local *local = sta->local;
1745
1746         trace_api_eosp(local, pubsta);
1747
1748         clear_sta_flag(sta, WLAN_STA_SP);
1749 }
1750 EXPORT_SYMBOL(ieee80211_sta_eosp);
1751
1752 void ieee80211_send_eosp_nullfunc(struct ieee80211_sta *pubsta, int tid)
1753 {
1754         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1755         enum ieee80211_frame_release_type reason;
1756         bool more_data;
1757
1758         trace_api_send_eosp_nullfunc(sta->local, pubsta, tid);
1759
1760         reason = IEEE80211_FRAME_RELEASE_UAPSD;
1761         more_data = ieee80211_sta_ps_more_data(sta, ~sta->sta.uapsd_queues,
1762                                                reason, 0);
1763
1764         ieee80211_send_null_response(sta, tid, reason, false, more_data);
1765 }
1766 EXPORT_SYMBOL(ieee80211_send_eosp_nullfunc);
1767
1768 void ieee80211_sta_set_buffered(struct ieee80211_sta *pubsta,
1769                                 u8 tid, bool buffered)
1770 {
1771         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
1772
1773         if (WARN_ON(tid >= IEEE80211_NUM_TIDS))
1774                 return;
1775
1776         trace_api_sta_set_buffered(sta->local, pubsta, tid, buffered);
1777
1778         if (buffered)
1779                 set_bit(tid, &sta->driver_buffered_tids);
1780         else
1781                 clear_bit(tid, &sta->driver_buffered_tids);
1782
1783         sta_info_recalc_tim(sta);
1784 }
1785 EXPORT_SYMBOL(ieee80211_sta_set_buffered);
1786
1787 static void
1788 ieee80211_recalc_p2p_go_ps_allowed(struct ieee80211_sub_if_data *sdata)
1789 {
1790         struct ieee80211_local *local = sdata->local;
1791         bool allow_p2p_go_ps = sdata->vif.p2p;
1792         struct sta_info *sta;
1793
1794         rcu_read_lock();
1795         list_for_each_entry_rcu(sta, &local->sta_list, list) {
1796                 if (sdata != sta->sdata ||
1797                     !test_sta_flag(sta, WLAN_STA_ASSOC))
1798                         continue;
1799                 if (!sta->sta.support_p2p_ps) {
1800                         allow_p2p_go_ps = false;
1801                         break;
1802                 }
1803         }
1804         rcu_read_unlock();
1805
1806         if (allow_p2p_go_ps != sdata->vif.bss_conf.allow_p2p_go_ps) {
1807                 sdata->vif.bss_conf.allow_p2p_go_ps = allow_p2p_go_ps;
1808                 ieee80211_bss_info_change_notify(sdata, BSS_CHANGED_P2P_PS);
1809         }
1810 }
1811
1812 int sta_info_move_state(struct sta_info *sta,
1813                         enum ieee80211_sta_state new_state)
1814 {
1815         might_sleep();
1816
1817         if (sta->sta_state == new_state)
1818                 return 0;
1819
1820         /* check allowed transitions first */
1821
1822         switch (new_state) {
1823         case IEEE80211_STA_NONE:
1824                 if (sta->sta_state != IEEE80211_STA_AUTH)
1825                         return -EINVAL;
1826                 break;
1827         case IEEE80211_STA_AUTH:
1828                 if (sta->sta_state != IEEE80211_STA_NONE &&
1829                     sta->sta_state != IEEE80211_STA_ASSOC)
1830                         return -EINVAL;
1831                 break;
1832         case IEEE80211_STA_ASSOC:
1833                 if (sta->sta_state != IEEE80211_STA_AUTH &&
1834                     sta->sta_state != IEEE80211_STA_AUTHORIZED)
1835                         return -EINVAL;
1836                 break;
1837         case IEEE80211_STA_AUTHORIZED:
1838                 if (sta->sta_state != IEEE80211_STA_ASSOC)
1839                         return -EINVAL;
1840                 break;
1841         default:
1842                 WARN(1, "invalid state %d", new_state);
1843                 return -EINVAL;
1844         }
1845
1846         sta_dbg(sta->sdata, "moving STA %pM to state %d\n",
1847                 sta->sta.addr, new_state);
1848
1849         /*
1850          * notify the driver before the actual changes so it can
1851          * fail the transition
1852          */
1853         if (test_sta_flag(sta, WLAN_STA_INSERTED)) {
1854                 int err = drv_sta_state(sta->local, sta->sdata, sta,
1855                                         sta->sta_state, new_state);
1856                 if (err)
1857                         return err;
1858         }
1859
1860         /* reflect the change in all state variables */
1861
1862         switch (new_state) {
1863         case IEEE80211_STA_NONE:
1864                 if (sta->sta_state == IEEE80211_STA_AUTH)
1865                         clear_bit(WLAN_STA_AUTH, &sta->_flags);
1866                 break;
1867         case IEEE80211_STA_AUTH:
1868                 if (sta->sta_state == IEEE80211_STA_NONE) {
1869                         set_bit(WLAN_STA_AUTH, &sta->_flags);
1870                 } else if (sta->sta_state == IEEE80211_STA_ASSOC) {
1871                         clear_bit(WLAN_STA_ASSOC, &sta->_flags);
1872                         ieee80211_recalc_min_chandef(sta->sdata);
1873                         if (!sta->sta.support_p2p_ps)
1874                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1875                 }
1876                 break;
1877         case IEEE80211_STA_ASSOC:
1878                 if (sta->sta_state == IEEE80211_STA_AUTH) {
1879                         set_bit(WLAN_STA_ASSOC, &sta->_flags);
1880                         ieee80211_recalc_min_chandef(sta->sdata);
1881                         if (!sta->sta.support_p2p_ps)
1882                                 ieee80211_recalc_p2p_go_ps_allowed(sta->sdata);
1883                 } else if (sta->sta_state == IEEE80211_STA_AUTHORIZED) {
1884                         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
1885                             (sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
1886                              !sta->sdata->u.vlan.sta))
1887                                 atomic_dec(&sta->sdata->bss->num_mcast_sta);
1888                         clear_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1889                         ieee80211_clear_fast_xmit(sta);
1890                         ieee80211_clear_fast_rx(sta);
1891                 }
1892                 break;
1893         case IEEE80211_STA_AUTHORIZED:
1894                 if (sta->sta_state == IEEE80211_STA_ASSOC) {
1895                         if (sta->sdata->vif.type == NL80211_IFTYPE_AP ||
1896                             (sta->sdata->vif.type == NL80211_IFTYPE_AP_VLAN &&
1897                              !sta->sdata->u.vlan.sta))
1898                                 atomic_inc(&sta->sdata->bss->num_mcast_sta);
1899                         set_bit(WLAN_STA_AUTHORIZED, &sta->_flags);
1900                         ieee80211_check_fast_xmit(sta);
1901                         ieee80211_check_fast_rx(sta);
1902                 }
1903                 break;
1904         default:
1905                 break;
1906         }
1907
1908         sta->sta_state = new_state;
1909
1910         return 0;
1911 }
1912
1913 u8 sta_info_tx_streams(struct sta_info *sta)
1914 {
1915         struct ieee80211_sta_ht_cap *ht_cap = &sta->sta.ht_cap;
1916         u8 rx_streams;
1917
1918         if (!sta->sta.ht_cap.ht_supported)
1919                 return 1;
1920
1921         if (sta->sta.vht_cap.vht_supported) {
1922                 int i;
1923                 u16 tx_mcs_map =
1924                         le16_to_cpu(sta->sta.vht_cap.vht_mcs.tx_mcs_map);
1925
1926                 for (i = 7; i >= 0; i--)
1927                         if ((tx_mcs_map & (0x3 << (i * 2))) !=
1928                             IEEE80211_VHT_MCS_NOT_SUPPORTED)
1929                                 return i + 1;
1930         }
1931
1932         if (ht_cap->mcs.rx_mask[3])
1933                 rx_streams = 4;
1934         else if (ht_cap->mcs.rx_mask[2])
1935                 rx_streams = 3;
1936         else if (ht_cap->mcs.rx_mask[1])
1937                 rx_streams = 2;
1938         else
1939                 rx_streams = 1;
1940
1941         if (!(ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_RX_DIFF))
1942                 return rx_streams;
1943
1944         return ((ht_cap->mcs.tx_params & IEEE80211_HT_MCS_TX_MAX_STREAMS_MASK)
1945                         >> IEEE80211_HT_MCS_TX_MAX_STREAMS_SHIFT) + 1;
1946 }
1947
1948 static struct ieee80211_sta_rx_stats *
1949 sta_get_last_rx_stats(struct sta_info *sta)
1950 {
1951         struct ieee80211_sta_rx_stats *stats = &sta->rx_stats;
1952         struct ieee80211_local *local = sta->local;
1953         int cpu;
1954
1955         if (!ieee80211_hw_check(&local->hw, USES_RSS))
1956                 return stats;
1957
1958         for_each_possible_cpu(cpu) {
1959                 struct ieee80211_sta_rx_stats *cpustats;
1960
1961                 cpustats = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
1962
1963                 if (time_after(cpustats->last_rx, stats->last_rx))
1964                         stats = cpustats;
1965         }
1966
1967         return stats;
1968 }
1969
1970 static void sta_stats_decode_rate(struct ieee80211_local *local, u16 rate,
1971                                   struct rate_info *rinfo)
1972 {
1973         rinfo->bw = (rate & STA_STATS_RATE_BW_MASK) >>
1974                 STA_STATS_RATE_BW_SHIFT;
1975
1976         if (rate & STA_STATS_RATE_VHT) {
1977                 rinfo->flags = RATE_INFO_FLAGS_VHT_MCS;
1978                 rinfo->mcs = rate & 0xf;
1979                 rinfo->nss = (rate & 0xf0) >> 4;
1980         } else if (rate & STA_STATS_RATE_HT) {
1981                 rinfo->flags = RATE_INFO_FLAGS_MCS;
1982                 rinfo->mcs = rate & 0xff;
1983         } else if (rate & STA_STATS_RATE_LEGACY) {
1984                 struct ieee80211_supported_band *sband;
1985                 u16 brate;
1986                 unsigned int shift;
1987
1988                 sband = local->hw.wiphy->bands[(rate >> 4) & 0xf];
1989                 brate = sband->bitrates[rate & 0xf].bitrate;
1990                 if (rinfo->bw == RATE_INFO_BW_5)
1991                         shift = 2;
1992                 else if (rinfo->bw == RATE_INFO_BW_10)
1993                         shift = 1;
1994                 else
1995                         shift = 0;
1996                 rinfo->legacy = DIV_ROUND_UP(brate, 1 << shift);
1997         }
1998
1999         if (rate & STA_STATS_RATE_SGI)
2000                 rinfo->flags |= RATE_INFO_FLAGS_SHORT_GI;
2001 }
2002
2003 static void sta_set_rate_info_rx(struct sta_info *sta, struct rate_info *rinfo)
2004 {
2005         u16 rate = ACCESS_ONCE(sta_get_last_rx_stats(sta)->last_rate);
2006
2007         if (rate == STA_STATS_RATE_INVALID)
2008                 rinfo->flags = 0;
2009         else
2010                 sta_stats_decode_rate(sta->local, rate, rinfo);
2011 }
2012
2013 static void sta_set_tidstats(struct sta_info *sta,
2014                              struct cfg80211_tid_stats *tidstats,
2015                              int tid)
2016 {
2017         struct ieee80211_local *local = sta->local;
2018
2019         if (!(tidstats->filled & BIT(NL80211_TID_STATS_RX_MSDU))) {
2020                 unsigned int start;
2021
2022                 do {
2023                         start = u64_stats_fetch_begin(&sta->rx_stats.syncp);
2024                         tidstats->rx_msdu = sta->rx_stats.msdu[tid];
2025                 } while (u64_stats_fetch_retry(&sta->rx_stats.syncp, start));
2026
2027                 tidstats->filled |= BIT(NL80211_TID_STATS_RX_MSDU);
2028         }
2029
2030         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU))) {
2031                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU);
2032                 tidstats->tx_msdu = sta->tx_stats.msdu[tid];
2033         }
2034
2035         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_RETRIES)) &&
2036             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2037                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_RETRIES);
2038                 tidstats->tx_msdu_retries = sta->status_stats.msdu_retries[tid];
2039         }
2040
2041         if (!(tidstats->filled & BIT(NL80211_TID_STATS_TX_MSDU_FAILED)) &&
2042             ieee80211_hw_check(&local->hw, REPORTS_TX_ACK_STATUS)) {
2043                 tidstats->filled |= BIT(NL80211_TID_STATS_TX_MSDU_FAILED);
2044                 tidstats->tx_msdu_failed = sta->status_stats.msdu_failed[tid];
2045         }
2046 }
2047
2048 static inline u64 sta_get_stats_bytes(struct ieee80211_sta_rx_stats *rxstats)
2049 {
2050         unsigned int start;
2051         u64 value;
2052
2053         do {
2054                 start = u64_stats_fetch_begin(&rxstats->syncp);
2055                 value = rxstats->bytes;
2056         } while (u64_stats_fetch_retry(&rxstats->syncp, start));
2057
2058         return value;
2059 }
2060
2061 void sta_set_sinfo(struct sta_info *sta, struct station_info *sinfo)
2062 {
2063         struct ieee80211_sub_if_data *sdata = sta->sdata;
2064         struct ieee80211_local *local = sdata->local;
2065         struct rate_control_ref *ref = NULL;
2066         u32 thr = 0;
2067         int i, ac, cpu;
2068         struct ieee80211_sta_rx_stats *last_rxstats;
2069
2070         last_rxstats = sta_get_last_rx_stats(sta);
2071
2072         if (test_sta_flag(sta, WLAN_STA_RATE_CONTROL))
2073                 ref = local->rate_ctrl;
2074
2075         sinfo->generation = sdata->local->sta_generation;
2076
2077         /* do before driver, so beacon filtering drivers have a
2078          * chance to e.g. just add the number of filtered beacons
2079          * (or just modify the value entirely, of course)
2080          */
2081         if (sdata->vif.type == NL80211_IFTYPE_STATION)
2082                 sinfo->rx_beacon = sdata->u.mgd.count_beacon_signal;
2083
2084         drv_sta_statistics(local, sdata, &sta->sta, sinfo);
2085
2086         sinfo->filled |= BIT(NL80211_STA_INFO_INACTIVE_TIME) |
2087                          BIT(NL80211_STA_INFO_STA_FLAGS) |
2088                          BIT(NL80211_STA_INFO_BSS_PARAM) |
2089                          BIT(NL80211_STA_INFO_CONNECTED_TIME) |
2090                          BIT(NL80211_STA_INFO_RX_DROP_MISC);
2091
2092         if (sdata->vif.type == NL80211_IFTYPE_STATION) {
2093                 sinfo->beacon_loss_count = sdata->u.mgd.beacon_loss_count;
2094                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_LOSS);
2095         }
2096
2097         sinfo->connected_time = ktime_get_seconds() - sta->last_connected;
2098         sinfo->inactive_time =
2099                 jiffies_to_msecs(jiffies - ieee80211_sta_last_active(sta));
2100
2101         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_TX_BYTES64) |
2102                                BIT(NL80211_STA_INFO_TX_BYTES)))) {
2103                 sinfo->tx_bytes = 0;
2104                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2105                         sinfo->tx_bytes += sta->tx_stats.bytes[ac];
2106                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BYTES64);
2107         }
2108
2109         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_PACKETS))) {
2110                 sinfo->tx_packets = 0;
2111                 for (ac = 0; ac < IEEE80211_NUM_ACS; ac++)
2112                         sinfo->tx_packets += sta->tx_stats.packets[ac];
2113                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_PACKETS);
2114         }
2115
2116         if (!(sinfo->filled & (BIT(NL80211_STA_INFO_RX_BYTES64) |
2117                                BIT(NL80211_STA_INFO_RX_BYTES)))) {
2118                 sinfo->rx_bytes += sta_get_stats_bytes(&sta->rx_stats);
2119
2120                 if (sta->pcpu_rx_stats) {
2121                         for_each_possible_cpu(cpu) {
2122                                 struct ieee80211_sta_rx_stats *cpurxs;
2123
2124                                 cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2125                                 sinfo->rx_bytes += sta_get_stats_bytes(cpurxs);
2126                         }
2127                 }
2128
2129                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_BYTES64);
2130         }
2131
2132         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_PACKETS))) {
2133                 sinfo->rx_packets = sta->rx_stats.packets;
2134                 if (sta->pcpu_rx_stats) {
2135                         for_each_possible_cpu(cpu) {
2136                                 struct ieee80211_sta_rx_stats *cpurxs;
2137
2138                                 cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2139                                 sinfo->rx_packets += cpurxs->packets;
2140                         }
2141                 }
2142                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_PACKETS);
2143         }
2144
2145         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_RETRIES))) {
2146                 sinfo->tx_retries = sta->status_stats.retry_count;
2147                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_RETRIES);
2148         }
2149
2150         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_FAILED))) {
2151                 sinfo->tx_failed = sta->status_stats.retry_failed;
2152                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_FAILED);
2153         }
2154
2155         sinfo->rx_dropped_misc = sta->rx_stats.dropped;
2156         if (sta->pcpu_rx_stats) {
2157                 for_each_possible_cpu(cpu) {
2158                         struct ieee80211_sta_rx_stats *cpurxs;
2159
2160                         cpurxs = per_cpu_ptr(sta->pcpu_rx_stats, cpu);
2161                         sinfo->rx_packets += cpurxs->dropped;
2162                 }
2163         }
2164
2165         if (sdata->vif.type == NL80211_IFTYPE_STATION &&
2166             !(sdata->vif.driver_flags & IEEE80211_VIF_BEACON_FILTER)) {
2167                 sinfo->filled |= BIT(NL80211_STA_INFO_BEACON_RX) |
2168                                  BIT(NL80211_STA_INFO_BEACON_SIGNAL_AVG);
2169                 sinfo->rx_beacon_signal_avg = ieee80211_ave_rssi(&sdata->vif);
2170         }
2171
2172         if (ieee80211_hw_check(&sta->local->hw, SIGNAL_DBM) ||
2173             ieee80211_hw_check(&sta->local->hw, SIGNAL_UNSPEC)) {
2174                 if (!(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL))) {
2175                         sinfo->signal = (s8)last_rxstats->last_signal;
2176                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL);
2177                 }
2178
2179                 if (!sta->pcpu_rx_stats &&
2180                     !(sinfo->filled & BIT(NL80211_STA_INFO_SIGNAL_AVG))) {
2181                         sinfo->signal_avg =
2182                                 -ewma_signal_read(&sta->rx_stats_avg.signal);
2183                         sinfo->filled |= BIT(NL80211_STA_INFO_SIGNAL_AVG);
2184                 }
2185         }
2186
2187         /* for the average - if pcpu_rx_stats isn't set - rxstats must point to
2188          * the sta->rx_stats struct, so the check here is fine with and without
2189          * pcpu statistics
2190          */
2191         if (last_rxstats->chains &&
2192             !(sinfo->filled & (BIT(NL80211_STA_INFO_CHAIN_SIGNAL) |
2193                                BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG)))) {
2194                 sinfo->filled |= BIT(NL80211_STA_INFO_CHAIN_SIGNAL);
2195                 if (!sta->pcpu_rx_stats)
2196                         sinfo->filled |= BIT(NL80211_STA_INFO_CHAIN_SIGNAL_AVG);
2197
2198                 sinfo->chains = last_rxstats->chains;
2199
2200                 for (i = 0; i < ARRAY_SIZE(sinfo->chain_signal); i++) {
2201                         sinfo->chain_signal[i] =
2202                                 last_rxstats->chain_signal_last[i];
2203                         sinfo->chain_signal_avg[i] =
2204                                 -ewma_signal_read(&sta->rx_stats_avg.chain_signal[i]);
2205                 }
2206         }
2207
2208         if (!(sinfo->filled & BIT(NL80211_STA_INFO_TX_BITRATE))) {
2209                 sta_set_rate_info_tx(sta, &sta->tx_stats.last_rate,
2210                                      &sinfo->txrate);
2211                 sinfo->filled |= BIT(NL80211_STA_INFO_TX_BITRATE);
2212         }
2213
2214         if (!(sinfo->filled & BIT(NL80211_STA_INFO_RX_BITRATE))) {
2215                 sta_set_rate_info_rx(sta, &sinfo->rxrate);
2216                 sinfo->filled |= BIT(NL80211_STA_INFO_RX_BITRATE);
2217         }
2218
2219         sinfo->filled |= BIT(NL80211_STA_INFO_TID_STATS);
2220         for (i = 0; i < IEEE80211_NUM_TIDS + 1; i++) {
2221                 struct cfg80211_tid_stats *tidstats = &sinfo->pertid[i];
2222
2223                 sta_set_tidstats(sta, tidstats, i);
2224         }
2225
2226         if (ieee80211_vif_is_mesh(&sdata->vif)) {
2227 #ifdef CONFIG_MAC80211_MESH
2228                 sinfo->filled |= BIT(NL80211_STA_INFO_LLID) |
2229                                  BIT(NL80211_STA_INFO_PLID) |
2230                                  BIT(NL80211_STA_INFO_PLINK_STATE) |
2231                                  BIT(NL80211_STA_INFO_LOCAL_PM) |
2232                                  BIT(NL80211_STA_INFO_PEER_PM) |
2233                                  BIT(NL80211_STA_INFO_NONPEER_PM);
2234
2235                 sinfo->llid = sta->mesh->llid;
2236                 sinfo->plid = sta->mesh->plid;
2237                 sinfo->plink_state = sta->mesh->plink_state;
2238                 if (test_sta_flag(sta, WLAN_STA_TOFFSET_KNOWN)) {
2239                         sinfo->filled |= BIT(NL80211_STA_INFO_T_OFFSET);
2240                         sinfo->t_offset = sta->mesh->t_offset;
2241                 }
2242                 sinfo->local_pm = sta->mesh->local_pm;
2243                 sinfo->peer_pm = sta->mesh->peer_pm;
2244                 sinfo->nonpeer_pm = sta->mesh->nonpeer_pm;
2245 #endif
2246         }
2247
2248         sinfo->bss_param.flags = 0;
2249         if (sdata->vif.bss_conf.use_cts_prot)
2250                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_CTS_PROT;
2251         if (sdata->vif.bss_conf.use_short_preamble)
2252                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_PREAMBLE;
2253         if (sdata->vif.bss_conf.use_short_slot)
2254                 sinfo->bss_param.flags |= BSS_PARAM_FLAGS_SHORT_SLOT_TIME;
2255         sinfo->bss_param.dtim_period = sdata->vif.bss_conf.dtim_period;
2256         sinfo->bss_param.beacon_interval = sdata->vif.bss_conf.beacon_int;
2257
2258         sinfo->sta_flags.set = 0;
2259         sinfo->sta_flags.mask = BIT(NL80211_STA_FLAG_AUTHORIZED) |
2260                                 BIT(NL80211_STA_FLAG_SHORT_PREAMBLE) |
2261                                 BIT(NL80211_STA_FLAG_WME) |
2262                                 BIT(NL80211_STA_FLAG_MFP) |
2263                                 BIT(NL80211_STA_FLAG_AUTHENTICATED) |
2264                                 BIT(NL80211_STA_FLAG_ASSOCIATED) |
2265                                 BIT(NL80211_STA_FLAG_TDLS_PEER);
2266         if (test_sta_flag(sta, WLAN_STA_AUTHORIZED))
2267                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHORIZED);
2268         if (test_sta_flag(sta, WLAN_STA_SHORT_PREAMBLE))
2269                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_SHORT_PREAMBLE);
2270         if (sta->sta.wme)
2271                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_WME);
2272         if (test_sta_flag(sta, WLAN_STA_MFP))
2273                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_MFP);
2274         if (test_sta_flag(sta, WLAN_STA_AUTH))
2275                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_AUTHENTICATED);
2276         if (test_sta_flag(sta, WLAN_STA_ASSOC))
2277                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_ASSOCIATED);
2278         if (test_sta_flag(sta, WLAN_STA_TDLS_PEER))
2279                 sinfo->sta_flags.set |= BIT(NL80211_STA_FLAG_TDLS_PEER);
2280
2281         thr = sta_get_expected_throughput(sta);
2282
2283         if (thr != 0) {
2284                 sinfo->filled |= BIT(NL80211_STA_INFO_EXPECTED_THROUGHPUT);
2285                 sinfo->expected_throughput = thr;
2286         }
2287 }
2288
2289 u32 sta_get_expected_throughput(struct sta_info *sta)
2290 {
2291         struct ieee80211_sub_if_data *sdata = sta->sdata;
2292         struct ieee80211_local *local = sdata->local;
2293         struct rate_control_ref *ref = NULL;
2294         u32 thr = 0;
2295
2296         if (test_sta_flag(sta, WLAN_STA_RATE_CONTROL))
2297                 ref = local->rate_ctrl;
2298
2299         /* check if the driver has a SW RC implementation */
2300         if (ref && ref->ops->get_expected_throughput)
2301                 thr = ref->ops->get_expected_throughput(sta->rate_ctrl_priv);
2302         else
2303                 thr = drv_get_expected_throughput(local, sta);
2304
2305         return thr;
2306 }
2307
2308 unsigned long ieee80211_sta_last_active(struct sta_info *sta)
2309 {
2310         struct ieee80211_sta_rx_stats *stats = sta_get_last_rx_stats(sta);
2311
2312         if (time_after(stats->last_rx, sta->status_stats.last_ack))
2313                 return stats->last_rx;
2314         return sta->status_stats.last_ack;
2315 }