Nginx 高可用方案keepalived 两台虚拟机安装好nginx(openresty) vm01 192.168.119.11 MASTER vm02 192.168.119.12 BACKUP 两台机器安装keepalived yum -y install keepalived yum方式安装的会生产配置文件在/etc/keepali 2022-07-30 Nginx
TEZ引擎编译 官网文档 https://tez.apache.org/install.html ============================================================ hadoop2.7以上版本使用tez引擎直接使用二进制包有可能无法使用,需要手动编译 hive版 2022-07-25 Hive
kafka日志保留时间 相关参数 #设置日志只保留一个小时的 "log.retention.hours": 1 #设置大于500M就自动删除(默认1G) "log.retention.bytes": "536870912" #设置日志被标记删除后,保留多久彻底删除,1分钟 "log.segment.delete 2022-07-25 Kafka
更改kafka接受消息大小 报错原因提示是请求包含的消息大于服务器将接受的最大消息大小。是kafka的问题,kafka中,能接受的单条消息的大小是有限制的,默认是1M,由于现有日志中包含图片信息,远大于1M,所以提升kafka能接受的单条消息的大小程度。有两种方式,一种是修改某一个topic,一种是修改kafka的配置文件。 2022-07-25 Kafka
hdfs黑名单白名单 通过黑白名单配置datanode上线下线 白名单配置 <property> <!-- 白名单信息--> <name>dfs.hosts</name> <value>/home/hadoop-twq/bigdata/hadoop-2.7.5/etc/hadoop/dfs.inc 2022-07-25 hadoop
nc命令 语法 nc [-hlnruz][-g<网关...>][-G<指向器数目>][-i<延迟秒数>][-o<输出文件>][-p<通信端口>][-s<来源位址>][-v...][-w<超时秒数>][主机名称][通信端口...] 参数说明: ● -g<网关> 设置路由器跃程通信网关,最多可设置8个。 ● -G 2022-07-24 运维笔记
奈飞支持检测 IP检测 bash <(curl -Ls https://raw.githubusercontent.com/siemenstutorials/VPSNFCHECK/master/test.sh) wget -O nf https://github.com/sjlleo/netflix-verif 2022-07-23 运维笔记
Linux修改句柄数 句柄数:包括打开的通讯链接(比如socket),正在监听的端口等等 查看信息 ulimit -a 修改方法 1. 重新登录就会失效 ulimit -n 100000 (root用户何以随意修改,普通用户只能修改成比现在小的值) 2022-07-19
Nginx流量复制 什么是流量复制 我们把用户访问系统造成的数据传输定义为流量,那么在用户访问系统的过程中,我们可以把进入和流出的数据复制下来,进行保存,待后续使用,即离线模式,或者转发到一个新的服务器,立即使用,即在线模式。 可以用来把生产的流量复制到测试环境 通过nginx ngx_http_mirror_modu 2022-06-30 Nginx
Hadoop Yarn REST API未授权漏洞利用挖矿分析 一、背景 5月5日腾讯云安全团队曾针对“攻击者利用Hadoop Yarn资源管理系统REST API未授权漏洞对服务器进行攻击,攻击者可以在未授权的情况下远程执行代码”的安全问题进行预警,在预警的前后我们曾多次捕获相关的攻击案例,其中就包含利用该问题进行挖矿,我们针对其中一个案例进行分析并提供响应的 2022-06-25 hadoop