cachepc-linux

Fork of AMDESE/linux with modifications for CachePC side-channel attack
git clone https://git.sinitax.com/sinitax/cachepc-linux
Log | Files | Refs | README | LICENSE | sfeed.txt

cmsg.h (24888B)


      1/* SPDX-License-Identifier: (GPL-2.0-only OR BSD-2-Clause) */
      2/* Copyright (C) 2017-2018 Netronome Systems, Inc. */
      3
      4#ifndef NFP_FLOWER_CMSG_H
      5#define NFP_FLOWER_CMSG_H
      6
      7#include <linux/bitfield.h>
      8#include <linux/skbuff.h>
      9#include <linux/types.h>
     10#include <net/geneve.h>
     11#include <net/gre.h>
     12#include <net/vxlan.h>
     13
     14#include "../nfp_app.h"
     15#include "../nfpcore/nfp_cpp.h"
     16
     17#define NFP_FLOWER_LAYER_EXT_META	BIT(0)
     18#define NFP_FLOWER_LAYER_PORT		BIT(1)
     19#define NFP_FLOWER_LAYER_MAC		BIT(2)
     20#define NFP_FLOWER_LAYER_TP		BIT(3)
     21#define NFP_FLOWER_LAYER_IPV4		BIT(4)
     22#define NFP_FLOWER_LAYER_IPV6		BIT(5)
     23#define NFP_FLOWER_LAYER_CT		BIT(6)
     24#define NFP_FLOWER_LAYER_VXLAN		BIT(7)
     25
     26#define NFP_FLOWER_LAYER2_GRE		BIT(0)
     27#define NFP_FLOWER_LAYER2_QINQ		BIT(4)
     28#define NFP_FLOWER_LAYER2_GENEVE	BIT(5)
     29#define NFP_FLOWER_LAYER2_GENEVE_OP	BIT(6)
     30#define NFP_FLOWER_LAYER2_TUN_IPV6	BIT(7)
     31
     32#define NFP_FLOWER_MASK_VLAN_PRIO	GENMASK(15, 13)
     33#define NFP_FLOWER_MASK_VLAN_PRESENT	BIT(12)
     34#define NFP_FLOWER_MASK_VLAN_VID	GENMASK(11, 0)
     35
     36#define NFP_FLOWER_MASK_MPLS_LB		GENMASK(31, 12)
     37#define NFP_FLOWER_MASK_MPLS_TC		GENMASK(11, 9)
     38#define NFP_FLOWER_MASK_MPLS_BOS	BIT(8)
     39#define NFP_FLOWER_MASK_MPLS_Q		BIT(0)
     40
     41#define NFP_FL_IP_FRAG_FIRST		BIT(7)
     42#define NFP_FL_IP_FRAGMENTED		BIT(6)
     43
     44/* GRE Tunnel flags */
     45#define NFP_FL_GRE_FLAG_KEY		BIT(2)
     46
     47/* Compressed HW representation of TCP Flags */
     48#define NFP_FL_TCP_FLAG_URG		BIT(4)
     49#define NFP_FL_TCP_FLAG_PSH		BIT(3)
     50#define NFP_FL_TCP_FLAG_RST		BIT(2)
     51#define NFP_FL_TCP_FLAG_SYN		BIT(1)
     52#define NFP_FL_TCP_FLAG_FIN		BIT(0)
     53
     54#define NFP_FL_SC_ACT_DROP		0x80000000
     55#define NFP_FL_SC_ACT_USER		0x7D000000
     56#define NFP_FL_SC_ACT_POPV		0x6A000000
     57#define NFP_FL_SC_ACT_NULL		0x00000000
     58
     59/* The maximum action list size (in bytes) supported by the NFP.
     60 */
     61#define NFP_FL_MAX_A_SIZ		1216
     62#define NFP_FL_LW_SIZ			2
     63
     64/* Maximum allowed geneve options */
     65#define NFP_FL_MAX_GENEVE_OPT_ACT	32
     66#define NFP_FL_MAX_GENEVE_OPT_CNT	64
     67#define NFP_FL_MAX_GENEVE_OPT_KEY	32
     68#define NFP_FL_MAX_GENEVE_OPT_KEY_V6	8
     69
     70/* Action opcodes */
     71#define NFP_FL_ACTION_OPCODE_OUTPUT		0
     72#define NFP_FL_ACTION_OPCODE_PUSH_VLAN		1
     73#define NFP_FL_ACTION_OPCODE_POP_VLAN		2
     74#define NFP_FL_ACTION_OPCODE_PUSH_MPLS		3
     75#define NFP_FL_ACTION_OPCODE_POP_MPLS		4
     76#define NFP_FL_ACTION_OPCODE_SET_TUNNEL		6
     77#define NFP_FL_ACTION_OPCODE_SET_ETHERNET	7
     78#define NFP_FL_ACTION_OPCODE_SET_MPLS		8
     79#define NFP_FL_ACTION_OPCODE_SET_IPV4_ADDRS	9
     80#define NFP_FL_ACTION_OPCODE_SET_IPV4_TTL_TOS	10
     81#define NFP_FL_ACTION_OPCODE_SET_IPV6_SRC	11
     82#define NFP_FL_ACTION_OPCODE_SET_IPV6_DST	12
     83#define NFP_FL_ACTION_OPCODE_SET_IPV6_TC_HL_FL	13
     84#define NFP_FL_ACTION_OPCODE_SET_UDP		14
     85#define NFP_FL_ACTION_OPCODE_SET_TCP		15
     86#define NFP_FL_ACTION_OPCODE_PRE_LAG		16
     87#define NFP_FL_ACTION_OPCODE_PRE_TUNNEL		17
     88#define NFP_FL_ACTION_OPCODE_METER		24
     89#define NFP_FL_ACTION_OPCODE_PUSH_GENEVE	26
     90#define NFP_FL_ACTION_OPCODE_NUM		32
     91
     92#define NFP_FL_OUT_FLAGS_LAST		BIT(15)
     93#define NFP_FL_OUT_FLAGS_USE_TUN	BIT(4)
     94#define NFP_FL_OUT_FLAGS_TYPE_IDX	GENMASK(2, 0)
     95
     96#define NFP_FL_PUSH_VLAN_PRIO		GENMASK(15, 13)
     97#define NFP_FL_PUSH_VLAN_VID		GENMASK(11, 0)
     98
     99#define IPV6_FLOW_LABEL_MASK		cpu_to_be32(0x000fffff)
    100
    101/* LAG ports */
    102#define NFP_FL_LAG_OUT			0xC0DE0000
    103
    104/* Tunnel ports */
    105#define NFP_FL_PORT_TYPE_TUN		0x50000000
    106#define NFP_FL_TUNNEL_TYPE		GENMASK(7, 4)
    107#define NFP_FL_PRE_TUN_INDEX		GENMASK(2, 0)
    108
    109#define NFP_FLOWER_WORKQ_MAX_SKBS	30000
    110
    111/* Cmesg reply (empirical) timeout*/
    112#define NFP_FL_REPLY_TIMEOUT		msecs_to_jiffies(40)
    113
    114#define nfp_flower_cmsg_warn(app, fmt, args...)                         \
    115	do {                                                            \
    116		if (net_ratelimit())                                    \
    117			nfp_warn((app)->cpp, fmt, ## args);             \
    118	} while (0)
    119
    120enum nfp_flower_tun_type {
    121	NFP_FL_TUNNEL_NONE =	0,
    122	NFP_FL_TUNNEL_GRE =	1,
    123	NFP_FL_TUNNEL_VXLAN =	2,
    124	NFP_FL_TUNNEL_GENEVE =	4,
    125};
    126
    127struct nfp_fl_act_head {
    128	u8 jump_id;
    129	u8 len_lw;
    130};
    131
    132struct nfp_fl_set_eth {
    133	struct nfp_fl_act_head head;
    134	__be16 reserved;
    135	u8 eth_addr_mask[ETH_ALEN * 2];
    136	u8 eth_addr_val[ETH_ALEN * 2];
    137};
    138
    139struct nfp_fl_set_ip4_addrs {
    140	struct nfp_fl_act_head head;
    141	__be16 reserved;
    142	__be32 ipv4_src_mask;
    143	__be32 ipv4_src;
    144	__be32 ipv4_dst_mask;
    145	__be32 ipv4_dst;
    146};
    147
    148struct nfp_fl_set_ip4_ttl_tos {
    149	struct nfp_fl_act_head head;
    150	u8 ipv4_ttl_mask;
    151	u8 ipv4_tos_mask;
    152	u8 ipv4_ttl;
    153	u8 ipv4_tos;
    154	__be16 reserved;
    155};
    156
    157struct nfp_fl_set_ipv6_tc_hl_fl {
    158	struct nfp_fl_act_head head;
    159	u8 ipv6_tc_mask;
    160	u8 ipv6_hop_limit_mask;
    161	__be16 reserved;
    162	u8 ipv6_tc;
    163	u8 ipv6_hop_limit;
    164	__be32 ipv6_label_mask;
    165	__be32 ipv6_label;
    166};
    167
    168struct nfp_fl_set_ipv6_addr {
    169	struct nfp_fl_act_head head;
    170	__be16 reserved;
    171	struct {
    172		__be32 mask;
    173		__be32 exact;
    174	} ipv6[4];
    175};
    176
    177struct nfp_fl_set_tport {
    178	struct nfp_fl_act_head head;
    179	__be16 reserved;
    180	u8 tp_port_mask[4];
    181	u8 tp_port_val[4];
    182};
    183
    184struct nfp_fl_output {
    185	struct nfp_fl_act_head head;
    186	__be16 flags;
    187	__be32 port;
    188};
    189
    190struct nfp_fl_push_vlan {
    191	struct nfp_fl_act_head head;
    192	__be16 reserved;
    193	__be16 vlan_tpid;
    194	__be16 vlan_tci;
    195};
    196
    197struct nfp_fl_pop_vlan {
    198	struct nfp_fl_act_head head;
    199	__be16 reserved;
    200};
    201
    202struct nfp_fl_pre_lag {
    203	struct nfp_fl_act_head head;
    204	__be16 group_id;
    205	u8 lag_version[3];
    206	u8 instance;
    207};
    208
    209#define NFP_FL_PRE_LAG_VER_OFF	8
    210
    211struct nfp_fl_pre_tunnel {
    212	struct nfp_fl_act_head head;
    213	__be16 flags;
    214	union {
    215		__be32 ipv4_dst;
    216		struct in6_addr ipv6_dst;
    217	};
    218};
    219
    220#define NFP_FL_PRE_TUN_IPV6	BIT(0)
    221
    222struct nfp_fl_set_tun {
    223	struct nfp_fl_act_head head;
    224	__be16 reserved;
    225	__be64 tun_id __packed;
    226	__be32 tun_type_index;
    227	__be16 tun_flags;
    228	u8 ttl;
    229	u8 tos;
    230	__be16 outer_vlan_tpid;
    231	__be16 outer_vlan_tci;
    232	u8 tun_len;
    233	u8 res2;
    234	__be16 tun_proto;
    235};
    236
    237struct nfp_fl_push_geneve {
    238	struct nfp_fl_act_head head;
    239	__be16 reserved;
    240	__be16 class;
    241	u8 type;
    242	u8 length;
    243	u8 opt_data[];
    244};
    245
    246struct nfp_fl_push_mpls {
    247	struct nfp_fl_act_head head;
    248	__be16 ethtype;
    249	__be32 lse;
    250};
    251
    252struct nfp_fl_pop_mpls {
    253	struct nfp_fl_act_head head;
    254	__be16 ethtype;
    255};
    256
    257struct nfp_fl_set_mpls {
    258	struct nfp_fl_act_head head;
    259	__be16 reserved;
    260	__be32 lse_mask;
    261	__be32 lse;
    262};
    263
    264struct nfp_fl_meter {
    265	struct nfp_fl_act_head head;
    266	__be16 reserved;
    267	__be32 meter_id;
    268};
    269
    270/* Metadata with L2 (1W/4B)
    271 * ----------------------------------------------------------------
    272 *    3                   2                   1
    273 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    274 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    275 * |    key_type   |    mask_id    | PCP |p|   vlan outermost VID  |
    276 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    277 *                                 ^                               ^
    278 *                           NOTE: |             TCI               |
    279 *                                 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    280 */
    281struct nfp_flower_meta_tci {
    282	u8 nfp_flow_key_layer;
    283	u8 mask_id;
    284	__be16 tci;
    285};
    286
    287/* Extended metadata for additional key_layers (1W/4B)
    288 * ----------------------------------------------------------------
    289 *    3                   2                   1
    290 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    291 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    292 * |                      nfp_flow_key_layer2                      |
    293 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    294 */
    295struct nfp_flower_ext_meta {
    296	__be32 nfp_flow_key_layer2;
    297};
    298
    299/* Port details (1W/4B)
    300 * ----------------------------------------------------------------
    301 *    3                   2                   1
    302 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    303 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    304 * |                         port_ingress                          |
    305 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    306 */
    307struct nfp_flower_in_port {
    308	__be32 in_port;
    309};
    310
    311/* L2 details (4W/16B)
    312 *    3                   2                   1
    313 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    314 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    315 * |                     mac_addr_dst, 31 - 0                      |
    316 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    317 * |      mac_addr_dst, 47 - 32    |     mac_addr_src, 15 - 0      |
    318 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    319 * |                     mac_addr_src, 47 - 16                     |
    320 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    321 * |       mpls outermost label            |  TC |B|   reserved  |q|
    322 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    323 */
    324struct nfp_flower_mac_mpls {
    325	u8 mac_dst[6];
    326	u8 mac_src[6];
    327	__be32 mpls_lse;
    328};
    329
    330/* VLAN details (2W/8B)
    331 *    3                   2                   1
    332 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    333 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    334 * |           outer_tpid          |           outer_tci           |
    335 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    336 * |           inner_tpid          |           inner_tci           |
    337 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    338 */
    339struct nfp_flower_vlan {
    340	__be16 outer_tpid;
    341	__be16 outer_tci;
    342	__be16 inner_tpid;
    343	__be16 inner_tci;
    344};
    345
    346/* L4 ports (for UDP, TCP, SCTP) (1W/4B)
    347 *    3                   2                   1
    348 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    349 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    350 * |            port_src           |           port_dst            |
    351 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    352 */
    353struct nfp_flower_tp_ports {
    354	__be16 port_src;
    355	__be16 port_dst;
    356};
    357
    358struct nfp_flower_ip_ext {
    359	u8 tos;
    360	u8 proto;
    361	u8 ttl;
    362	u8 flags;
    363};
    364
    365/* L3 IPv4 details (3W/12B)
    366 *    3                   2                   1
    367 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    368 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    369 * |    DSCP   |ECN|   protocol    |      ttl      |     flags     |
    370 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    371 * |                        ipv4_addr_src                          |
    372 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    373 * |                        ipv4_addr_dst                          |
    374 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    375 */
    376struct nfp_flower_ipv4 {
    377	struct nfp_flower_ip_ext ip_ext;
    378	__be32 ipv4_src;
    379	__be32 ipv4_dst;
    380};
    381
    382/* L3 IPv6 details (10W/40B)
    383 *    3                   2                   1
    384 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    385 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    386 * |    DSCP   |ECN|   protocol    |      ttl      |     flags     |
    387 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    388 * |   ipv6_exthdr   | res |            ipv6_flow_label            |
    389 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    390 * |                  ipv6_addr_src,   31 - 0                      |
    391 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    392 * |                  ipv6_addr_src,  63 - 32                      |
    393 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    394 * |                  ipv6_addr_src,  95 - 64                      |
    395 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    396 * |                  ipv6_addr_src, 127 - 96                      |
    397 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    398 * |                  ipv6_addr_dst,   31 - 0                      |
    399 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    400 * |                  ipv6_addr_dst,  63 - 32                      |
    401 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    402 * |                  ipv6_addr_dst,  95 - 64                      |
    403 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    404 * |                  ipv6_addr_dst, 127 - 96                      |
    405 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    406 */
    407struct nfp_flower_ipv6 {
    408	struct nfp_flower_ip_ext ip_ext;
    409	__be32 ipv6_flow_label_exthdr;
    410	struct in6_addr ipv6_src;
    411	struct in6_addr ipv6_dst;
    412};
    413
    414struct nfp_flower_tun_ipv4 {
    415	__be32 src;
    416	__be32 dst;
    417};
    418
    419struct nfp_flower_tun_ipv6 {
    420	struct in6_addr src;
    421	struct in6_addr dst;
    422};
    423
    424struct nfp_flower_tun_ip_ext {
    425	u8 tos;
    426	u8 ttl;
    427};
    428
    429/* Flow Frame IPv4 UDP TUNNEL --> Tunnel details (4W/16B)
    430 * -----------------------------------------------------------------
    431 *    3                   2                   1
    432 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    433 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    434 * |                         ipv4_addr_src                         |
    435 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    436 * |                         ipv4_addr_dst                         |
    437 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    438 * |           Reserved            |      tos      |      ttl      |
    439 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    440 * |                            Reserved                           |
    441 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    442 * |                     VNI                       |   Reserved    |
    443 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    444 */
    445struct nfp_flower_ipv4_udp_tun {
    446	struct nfp_flower_tun_ipv4 ipv4;
    447	__be16 reserved1;
    448	struct nfp_flower_tun_ip_ext ip_ext;
    449	__be32 reserved2;
    450	__be32 tun_id;
    451};
    452
    453/* Flow Frame IPv6 UDP TUNNEL --> Tunnel details (11W/44B)
    454 * -----------------------------------------------------------------
    455 *    3                   2                   1
    456 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    457 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    458 * |                  ipv6_addr_src,   31 - 0                      |
    459 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    460 * |                  ipv6_addr_src,  63 - 32                      |
    461 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    462 * |                  ipv6_addr_src,  95 - 64                      |
    463 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    464 * |                  ipv6_addr_src, 127 - 96                      |
    465 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    466 * |                  ipv6_addr_dst,   31 - 0                      |
    467 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    468 * |                  ipv6_addr_dst,  63 - 32                      |
    469 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    470 * |                  ipv6_addr_dst,  95 - 64                      |
    471 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    472 * |                  ipv6_addr_dst, 127 - 96                      |
    473 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    474 * |           Reserved            |      tos      |      ttl      |
    475 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    476 * |                            Reserved                           |
    477 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    478 * |                     VNI                       |   Reserved    |
    479 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    480 */
    481struct nfp_flower_ipv6_udp_tun {
    482	struct nfp_flower_tun_ipv6 ipv6;
    483	__be16 reserved1;
    484	struct nfp_flower_tun_ip_ext ip_ext;
    485	__be32 reserved2;
    486	__be32 tun_id;
    487};
    488
    489/* Flow Frame GRE TUNNEL --> Tunnel details (6W/24B)
    490 * -----------------------------------------------------------------
    491 *    3                   2                   1
    492 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    493 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    494 * |                         ipv4_addr_src                         |
    495 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    496 * |                         ipv4_addr_dst                         |
    497 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    498 * |           tun_flags           |       tos     |       ttl     |
    499 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    500 * |            Reserved           |           Ethertype           |
    501 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    502 * |                              Key                              |
    503 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    504 * |                           Reserved                            |
    505 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    506 */
    507
    508struct nfp_flower_ipv4_gre_tun {
    509	struct nfp_flower_tun_ipv4 ipv4;
    510	__be16 tun_flags;
    511	struct nfp_flower_tun_ip_ext ip_ext;
    512	__be16 reserved1;
    513	__be16 ethertype;
    514	__be32 tun_key;
    515	__be32 reserved2;
    516};
    517
    518/* Flow Frame GRE TUNNEL V6 --> Tunnel details (12W/48B)
    519 * -----------------------------------------------------------------
    520 *    3                   2                   1
    521 *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
    522 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    523 * |                  ipv6_addr_src,   31 - 0                      |
    524 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    525 * |                  ipv6_addr_src,  63 - 32                      |
    526 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    527 * |                  ipv6_addr_src,  95 - 64                      |
    528 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    529 * |                  ipv6_addr_src, 127 - 96                      |
    530 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    531 * |                  ipv6_addr_dst,   31 - 0                      |
    532 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    533 * |                  ipv6_addr_dst,  63 - 32                      |
    534 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    535 * |                  ipv6_addr_dst,  95 - 64                      |
    536 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    537 * |                  ipv6_addr_dst, 127 - 96                      |
    538 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    539 * |           tun_flags           |       tos     |       ttl     |
    540 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    541 * |            Reserved           |           Ethertype           |
    542 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    543 * |                              Key                              |
    544 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    545 * |                           Reserved                            |
    546 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
    547 */
    548struct nfp_flower_ipv6_gre_tun {
    549	struct nfp_flower_tun_ipv6 ipv6;
    550	__be16 tun_flags;
    551	struct nfp_flower_tun_ip_ext ip_ext;
    552	__be16 reserved1;
    553	__be16 ethertype;
    554	__be32 tun_key;
    555	__be32 reserved2;
    556};
    557
    558struct nfp_flower_geneve_options {
    559	u8 data[NFP_FL_MAX_GENEVE_OPT_KEY];
    560};
    561
    562#define NFP_FL_TUN_VNI_OFFSET 8
    563
    564/* The base header for a control message packet.
    565 * Defines an 8-bit version, and an 8-bit type, padded
    566 * to a 32-bit word. Rest of the packet is type-specific.
    567 */
    568struct nfp_flower_cmsg_hdr {
    569	__be16 pad;
    570	u8 type;
    571	u8 version;
    572};
    573
    574#define NFP_FLOWER_CMSG_HLEN		sizeof(struct nfp_flower_cmsg_hdr)
    575#define NFP_FLOWER_CMSG_VER1		1
    576
    577/* Types defined for port related control messages  */
    578enum nfp_flower_cmsg_type_port {
    579	NFP_FLOWER_CMSG_TYPE_FLOW_ADD =		0,
    580	NFP_FLOWER_CMSG_TYPE_FLOW_MOD =		1,
    581	NFP_FLOWER_CMSG_TYPE_FLOW_DEL =		2,
    582	NFP_FLOWER_CMSG_TYPE_LAG_CONFIG =	4,
    583	NFP_FLOWER_CMSG_TYPE_PORT_REIFY =	6,
    584	NFP_FLOWER_CMSG_TYPE_MAC_REPR =		7,
    585	NFP_FLOWER_CMSG_TYPE_PORT_MOD =		8,
    586	NFP_FLOWER_CMSG_TYPE_MERGE_HINT =	9,
    587	NFP_FLOWER_CMSG_TYPE_NO_NEIGH =		10,
    588	NFP_FLOWER_CMSG_TYPE_TUN_MAC =		11,
    589	NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS =	12,
    590	NFP_FLOWER_CMSG_TYPE_TUN_NEIGH =	13,
    591	NFP_FLOWER_CMSG_TYPE_TUN_IPS =		14,
    592	NFP_FLOWER_CMSG_TYPE_FLOW_STATS =	15,
    593	NFP_FLOWER_CMSG_TYPE_PORT_ECHO =	16,
    594	NFP_FLOWER_CMSG_TYPE_QOS_MOD =		18,
    595	NFP_FLOWER_CMSG_TYPE_QOS_DEL =		19,
    596	NFP_FLOWER_CMSG_TYPE_QOS_STATS =	20,
    597	NFP_FLOWER_CMSG_TYPE_PRE_TUN_RULE =	21,
    598	NFP_FLOWER_CMSG_TYPE_TUN_IPS_V6 =	22,
    599	NFP_FLOWER_CMSG_TYPE_NO_NEIGH_V6 =	23,
    600	NFP_FLOWER_CMSG_TYPE_TUN_NEIGH_V6 =	24,
    601	NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS_V6 =	25,
    602	NFP_FLOWER_CMSG_TYPE_MAX =		32,
    603};
    604
    605/* NFP_FLOWER_CMSG_TYPE_MAC_REPR */
    606struct nfp_flower_cmsg_mac_repr {
    607	u8 reserved[3];
    608	u8 num_ports;
    609	struct {
    610		u8 idx;
    611		u8 info;
    612		u8 nbi_port;
    613		u8 phys_port;
    614	} ports[];
    615};
    616
    617#define NFP_FLOWER_CMSG_MAC_REPR_NBI		GENMASK(1, 0)
    618
    619/* NFP_FLOWER_CMSG_TYPE_PORT_MOD */
    620struct nfp_flower_cmsg_portmod {
    621	__be32 portnum;
    622	u8 reserved;
    623	u8 info;
    624	__be16 mtu;
    625};
    626
    627#define NFP_FLOWER_CMSG_PORTMOD_INFO_LINK	BIT(0)
    628#define NFP_FLOWER_CMSG_PORTMOD_MTU_CHANGE_ONLY	BIT(1)
    629
    630/* NFP_FLOWER_CMSG_TYPE_PORT_REIFY */
    631struct nfp_flower_cmsg_portreify {
    632	__be32 portnum;
    633	u16 reserved;
    634	__be16 info;
    635};
    636
    637#define NFP_FLOWER_CMSG_PORTREIFY_INFO_EXIST	BIT(0)
    638
    639/* NFP_FLOWER_CMSG_TYPE_FLOW_MERGE_HINT */
    640struct nfp_flower_cmsg_merge_hint {
    641	u8 reserved[3];
    642	u8 count;
    643	struct {
    644		__be32 host_ctx;
    645		__be64 host_cookie;
    646	} __packed flow[];
    647};
    648
    649enum nfp_flower_cmsg_port_type {
    650	NFP_FLOWER_CMSG_PORT_TYPE_UNSPEC =	0x0,
    651	NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT =	0x1,
    652	NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT =	0x2,
    653	NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT =  0x3,
    654};
    655
    656enum nfp_flower_cmsg_port_vnic_type {
    657	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_VF =	0x0,
    658	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_PF =	0x1,
    659	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_CTRL =	0x2,
    660};
    661
    662#define NFP_FLOWER_CMSG_PORT_TYPE		GENMASK(31, 28)
    663#define NFP_FLOWER_CMSG_PORT_SYS_ID		GENMASK(27, 24)
    664#define NFP_FLOWER_CMSG_PORT_NFP_ID		GENMASK(23, 22)
    665#define NFP_FLOWER_CMSG_PORT_PCI		GENMASK(15, 14)
    666#define NFP_FLOWER_CMSG_PORT_VNIC_TYPE		GENMASK(13, 12)
    667#define NFP_FLOWER_CMSG_PORT_VNIC		GENMASK(11, 6)
    668#define NFP_FLOWER_CMSG_PORT_PCIE_Q		GENMASK(5, 0)
    669#define NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM	GENMASK(7, 0)
    670
    671static inline u32 nfp_flower_internal_port_get_port_id(u8 internal_port)
    672{
    673	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, internal_port) |
    674		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
    675			   NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT);
    676}
    677
    678static inline u32 nfp_flower_cmsg_phys_port(u8 phys_port)
    679{
    680	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, phys_port) |
    681		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
    682			   NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT);
    683}
    684
    685static inline u32
    686nfp_flower_cmsg_pcie_port(u8 nfp_pcie, enum nfp_flower_cmsg_port_vnic_type type,
    687			  u8 vnic, u8 q)
    688{
    689	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCI, nfp_pcie) |
    690		FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC_TYPE, type) |
    691		FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC, vnic) |
    692		FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCIE_Q, q) |
    693		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
    694			   NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT);
    695}
    696
    697static inline void *nfp_flower_cmsg_get_data(struct sk_buff *skb)
    698{
    699	return (unsigned char *)skb->data + NFP_FLOWER_CMSG_HLEN;
    700}
    701
    702static inline int nfp_flower_cmsg_get_data_len(struct sk_buff *skb)
    703{
    704	return skb->len - NFP_FLOWER_CMSG_HLEN;
    705}
    706
    707static inline bool
    708nfp_fl_netdev_is_tunnel_type(struct net_device *netdev,
    709			     enum nfp_flower_tun_type tun_type)
    710{
    711	if (netif_is_vxlan(netdev))
    712		return tun_type == NFP_FL_TUNNEL_VXLAN;
    713	if (netif_is_gretap(netdev) || netif_is_ip6gretap(netdev))
    714		return tun_type == NFP_FL_TUNNEL_GRE;
    715	if (netif_is_geneve(netdev))
    716		return tun_type == NFP_FL_TUNNEL_GENEVE;
    717
    718	return false;
    719}
    720
    721static inline bool nfp_fl_is_netdev_to_offload(struct net_device *netdev)
    722{
    723	if (!netdev->rtnl_link_ops)
    724		return false;
    725	if (!strcmp(netdev->rtnl_link_ops->kind, "openvswitch"))
    726		return true;
    727	if (netif_is_vxlan(netdev))
    728		return true;
    729	if (netif_is_geneve(netdev))
    730		return true;
    731	if (netif_is_gretap(netdev))
    732		return true;
    733	if (netif_is_ip6gretap(netdev))
    734		return true;
    735
    736	return false;
    737}
    738
    739struct sk_buff *
    740nfp_flower_cmsg_mac_repr_start(struct nfp_app *app, unsigned int num_ports);
    741void
    742nfp_flower_cmsg_mac_repr_add(struct sk_buff *skb, unsigned int idx,
    743			     unsigned int nbi, unsigned int nbi_port,
    744			     unsigned int phys_port);
    745int nfp_flower_cmsg_portmod(struct nfp_repr *repr, bool carrier_ok,
    746			    unsigned int mtu, bool mtu_only);
    747int nfp_flower_cmsg_portreify(struct nfp_repr *repr, bool exists);
    748void nfp_flower_cmsg_process_rx(struct work_struct *work);
    749void nfp_flower_cmsg_rx(struct nfp_app *app, struct sk_buff *skb);
    750struct sk_buff *
    751nfp_flower_cmsg_alloc(struct nfp_app *app, unsigned int size,
    752		      enum nfp_flower_cmsg_type_port type, gfp_t flag);
    753
    754#endif