ICode9

精准搜索请尝试: 精确搜索
  • jenkins持续集成入门19 - (Pipeline Script from SCM)流水线项目 整合SonarQube代码审查2021-09-26 20:34:38

    工作流程图 1 jenkins安装SonarQube Scanner插件 2 jenkins添加SonarQube凭证   3 Manage Jenkins->Configure System->SonarQube servers  4 Manage Jenkins->Global Tool Configuration  5 SonaQube-web界面中关闭审查结果上传到SCM功能  6 项目根目录下,创建sonar-proj

  • ElasticSearch实战(三十五)-Ingest Pipeline 数据预处理(轻量级ETL)2021-09-20 12:03:53

            在Elasticsearch 5.0版本以后引入了 Ingest Pipeline,用于在文档被索引之前进行预处理。Pipeline 定义了一系列按顺序执行的 processors, 一个 pipeline 由 description 和 processors两部分组成: PUT _ingest/pipeline/my-pipeline-id { "description" : "..."

  • FATE详细介绍2021-09-19 14:29:52

    FATE简介 FATE(Federated AI Technology Enabler)是微众银行AI部门发起的一个开源项目,旨在提供一个安全的计算框架来支持联邦AI生态系统。它实现了基于同态加密和多方计算(MPC)的安全计算协议。它支持联邦学习架构和各种机器学习算法的安全计算,包括逻辑回归、基于树的算法、深度

  • scrapy使用pipeline保存不同的表单Item到数据库、本地文件2021-09-19 10:05:48

    文章目录 步骤1:构造Item步骤2:构造Pipeline步骤3:setting配置pipeline 步骤1:构造Item import scrapy class StockItem(scrapy.Item): stock_code = scrapy.Field() company_name = scrapy.Field() stock_type = scrapy.Field() class CompanyInfoItem(scra

  • hdfs追加解决报错:Failed to replace a bad datanode on the existing pipeline due to no more goo......2021-09-17 23:04:36

      在查询过程中,网上的大部分方法是修改hdfs-site.xml配置文件,添加 <property> <name>dfs.namenode.http.address</name> <value>slave1:50070</value> </property> <property> <name>dfs.support.append

  • Netty 数据在管道中的流通2021-09-15 12:58:11

    Netty 数据在管道中的流通 netty框架提供了多种编解码工具类对接收/发送的数据类型进行转化后再放到管道中流通。当然,也可以自己继承抽象类定制自己的编解码工具。今天,以管道中的数据格式转化角度来分析一下管道的工作流程。 一、Read数据 // 分包,把数据读到buf中 ar

  • JedisCluster支持pipeline管道2021-09-13 14:03:40

    package com.meiya.whale.mining.redis; import org.apache.commons.lang3.StringUtils; import org.apache.ibatis.reflection.MetaObject; import org.apache.ibatis.reflection.SystemMetaObject; import org.springframework.beans.factory.annotation.Autowired; impor

  • Netty 黏包半包问题与解决方案2021-09-12 13:04:08

    Netty 黏包半包问题与解决方案 一、黏包/半包现象分析 黏包 现象,发送 abc def , 接收abcdef 原因 应用层: 接收方ByteBuf设置太大(Netty默认1024) 滑动窗口:假设发送发256 bytes 表示一个完整报文,但由于接收方处理不及时且窗口大小足够大,这256 bytes 字节就会缓冲在接收方的滑

  • HDFS写数据流程2021-09-11 21:33:16

      步骤解析: client发起文件上传请求,通过RPC与NameNode建立通讯,NameNode检查目标文件是否已存在,父目录是否存在,返回是否可以上传;client请求第一个 block该传输到哪些DataNode服务器上;NameNode根据配置文件中指定的备份数量及副本放置策略进行文件分配,返回可用的DataNode的地址,

  • Gstreamer学习2021-09-08 19:57:49

    Gstreamer学习整理 一、基本介绍 二、简易小程序 三、媒体类型与Pad 四、动态连接Pipeline 五、播放时间控制 六、获取媒体信息 七、播放速率控制 八、多线程 九、Appsrc及Appsink 十、Streaming 十一、常用命令工具 十二、调试Pipeline

  • 美国燃油管道系统Colonial Pipeline遭DarkSide勒索软件攻击说明2021-09-06 13:02:22

    事件简介 美国最大的燃油管道系统Colonial Pipeline于5月7日遭到攻击,被迫暂停所有管道作业,由于Colonial Pipeline负责美国东岸多达45%的燃料供应,因攻击事件而暂停所有的管道作业,美国运输部则在5月9日宣布进入紧急状态,允许以机动车辆于一般道路上运送燃油,而FBI也于5月10日证实,Col

  • Neety编码示例2021-09-02 18:33:58

    一、群聊系统   实例要求:     1、编写⼀个 Netty 群聊系统,实现服务器端和客户端之间的数据简单通讯(⾮阻塞)     2、实现多⼈群聊     3、服务器端:可以监测⽤户上线,离线,并实现消息转发功能     4、客户端:通过 channel 可以⽆阻塞发送消息给其它所有⽤户,同时可以接

  • jenkins options 保存构建次数2021-09-01 09:31:24

    jenkins options 保存构建次数 pipeline { agent any options { buildDiscarder(logRotator(numToKeepStr: '2')) #保存历史构建记录的数量 disableConcurrentBuilds() #禁止pipeline同时执行 checkoutToSubdir

  • redis 简单整理——pipeline[十]2021-08-20 23:02:28

    前言 简单整理一下pipeline。 正文 1)发送命令 2)命令排队 3)命令执行 4)返回结果 其中1)+4)称为Round Trip Time(RTT,往返时间)。 pipeline它能将一组Redis命令进 行组装,通过一次RTT传输给Redis,再将这组Redis命令的执行结果按顺序返回给客户端 举个例子: echo -en '*3\r\n$3\r\nSET\r\n$5

  • Jenkins Pipeline 常用指令2021-08-11 20:04:31

    Groovy 背景 Jenkins 流水线(Pipeline 是 Jenkins2.X 最核心的特性,帮助 Jenkins 实现从 CI 到 CD 与DevOps 的转变,可支持复杂流程的编排与可视化) 是一套插件,可通过 Jenkinsfile 执行,支持脚本式(Script)和声明式(Declarative)两种,其中脚本式可通过 Groovy 语法编写执行过程,声明式需

  • 2021-08-08 12:33:29

    前提引言 Jenkins的精髓是Pipeline(流水线技术),那为什么要用Pipeline呢?实现自动化构建,其中Pipeline能够将以前project中的配置信息以steps的方式放在一个脚本里,将原本独立运行于单个或者多个节点的任务连接起来,实现单个任务难以完成的复杂流程,形成流水式发布,构建步骤视图化。

  • Gitlab Pipeline语法2021-08-07 19:02:03

    目录一、流水线语法1.1 流水线参数列表1.2 流水线语法检测二、 一、流水线语法 参考文档: k8s发布 GitlabCI/CD 1.1 流水线参数列表 Keyword Description script 运行的Shell命令或脚本。 image 使用docker映像。 services 使用docker服务映像。 before_script 在作

  • 2021-08-072021-08-07 13:01:56

    jenkins_01_从0开始创建第一个pipeline 最近开始学习Jenkins,然而Jenkins官方文档对新手一点不友好,最终在摸爬滚打中搞定第一个pipeline。 参考:官方文档、创建pipeline、git报错 一、准备工作 根据官方文档介绍,在运行Jenkins之前,需要先安装以下软件。 Java8,docker,git(文档中没

  • netty系列之:Event、Handler和Pipeline2021-08-07 09:31:42

    目录简介ChannelPipelineChannelHandlerChannelHandlerContextChannelHandler中的状态变量异步Handler总结 简介 上一节我们讲解了netty中的Channel,知道了channel是事件处理器和外部联通的桥梁。今天本文将会详细讲解netty的剩下几个非常总要的部分Event、Handler和PipeLine。 Cha

  • MindSpore解读评注(7)对mindspore\ccsrc\pipeline\jit\parse\resolve.h的部分注释2021-08-06 11:00:23

    对mindspore\ccsrc\pipeline\jit\parse\resolve.h的部分注释和对using namespace std的学习理对mindspore\ccsrc\pipeline\jit\parse\resolve.h的部分注释和using namespace std的学习理解 知识浅薄,还有许多未理解之处,欢迎各位纠正、讨论。 相对路径:mindspore\ccsrc\pipeline\ji

  • Jenkins 有用的插件记录2021-08-05 23:36:00

    Schedule Build Plugin (schedule-build): 0.5.1 Bitbucket Branch Source Plugin (cloudbees-bitbucket-branch-source): 2.4.4 jQuery plugin (jquery): 1.12.4-0 GIT server Plugin (git-server): 1.7 CloudBees AWS Credentials Plugin (aws-credentials): 1.26 Ivy Plugi

  • Jenkins shared libary 使用2021-08-05 18:35:40

    jenkins pipeline 到后期高阶玩法是开发使用sharedlibary, 不同job 可以复用方法变量。 本文记录sharedlibary的配置及入门用法 参考文献https://www.lambdatest.com/blog/use-jenkins-shared-libraries-in-a-jenkins-pipeline/          以上是在jenkins 系统配置中添加shar

  • Redis缓存雪崩,穿透、multiGet 批量查询优化、pipeline 批量查询优化2021-08-05 11:59:09

    一、缓存穿透的解决方案 为了演示缓存穿透,这里设置的redis是单机单实例。 二、缓存穿透之布隆过滤器 布隆过滤器能够迅速判断一个元素是否存在于集合里。 布隆过滤器缺点: 1.会有1%的误判率,误判概率越低,数组所占用的空间越长。 2.布隆过滤器的数据只能添加,不能移除,主要是由于多

  • MindSpore解读评注(5)对ccsrc\pipeline\jit\parse\python_adapter.cc的部分注释2021-08-03 13:29:37

    对ccsrc/minddata/dataset/include/dataset的注释 DataHelper,一个通用的数据帮助类,这里是mind数据集包含的数据集数据助手 知识浅薄,还有许多未理解之处,欢迎各位纠正、讨论 路径:mindsspore/ccsrc/minddata/dataset/include/dataset #include "minddata/dataset/include/dataset/

  • 开源基于docker的任务调度器pipeline,比`quartzs` 更强大的分布式任务调度器2021-07-31 23:58:54

    pipeline 分布式任务调度器 目标: 基于docker的布式任务调度器, 比quartzs,xxl-job 更强大的分布式任务调度器。 可以将要执行的任务打包为docker镜像,或者选择已有镜像,自定义脚本程序,通过pipeline框架来实现调度。 开源地址: https://github.com/jadepeng/docker-pipeline 架构

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有