自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(51)
  • 资源 (73)
  • 收藏
  • 关注

原创 无人机飞行控制、导航和路径规划的原理、技术和相关算法

飞行控制主要是通过无人机的控制系统,包括传感器、控制器和执行器,来保持无人机的稳定飞行、执行各种飞行动作和完成预设任务。控制系统通过传感器获取无人机的姿态、位置、速度等信息,然后根据这些信息计算出控制指令,通过执行器(如电机、舵机等)来实现对无人机的控制。无人机路径规划是无人机的重要任务。惯性导航系统是一种不依赖外界信息的自主式导航系统,它利用载体上的加速度计和陀螺仪等惯性元件,通过测量无人机的角运动和线运动信息,结合初始姿态、初始航向和初始位置等信息,推算出无人机的姿态、速度、航向和位置等导航参数。

2024-03-20 07:09:44 1843 1

原创 GPU密集型计算性能优化的方法和技术

减少数据在内存和GPU之间的传输次数,可以通过合理的数据结构和算法来减少数据的重复读取和写入。针对特定的计算任务,选择合适的算法和实现方式,以最大化利用 GPU 的优势。针对特定的应用场景,优化硬件设备,如提高GPU的核心频率、增加内存带宽等,以提高计算效率。减少显存的占用,避免不必要的数据传输。减少数据在内存和 GPU 之间的传输次数,可以通过合理的数据结构和算法来减少数据的重复读取和写入。在数据传输过程中,可以采用数据预取技术,提前将需要计算的数据从内存中读取出来,放入GPU的内存空间中。

2024-03-17 15:56:18 1003

原创 数控机床的精密加工和控制的技术和原理

其工作原理是根据零件加工的需要,将加工过程所需的各种操作(如主轴的变速、进给的变速、刀具的选择、冷却液的开关等)和步骤以及工件的形状尺寸用代码表示,通过输入装置将这些信息送入数控装置,经过数控装置的处理、运算,发出各种控制信号,控制机床的伺服系统或其他驱动系统,使刀具和工件按规定的轨迹和速度运动,从而加工出所需的零件。伺服电机负责驱动机床各轴的运动,伺服驱动器则负责将数控系统的指令转换为电机的驱动信号,而反馈装置则负责检测机床各轴的实际位置,为数控系统提供反馈信号,从而实现精确的位置控制。

2024-03-04 08:43:17 405

原创 无人机镜头稳定的原理和相关算法

无人机镜头稳定的原理和相关算法主要是通过镜头平衡技术和实时电子稳像技术来保持摄像镜头的稳定性,从而拍摄出清晰、稳定的画面。不同的无人机可能采用不同的稳定方法和算法,具体的实现方式会因无人机的型号和设计而有所差异。它通过计算每行每列的像素值总和,然后在行方向和列方向分别计算其前后两帧图像的相关性,相关性最大的位置就是该方向上图像相对的偏移值。这些算法可以分析相机拍摄的图像,检测图像中的抖动和晃动,并通过图像处理技术来稳定画面。通过对这些传感器数据的分析,算法可以计算出相机的晃动和抖动,并进行相应的补偿。

2024-03-03 09:01:14 683

原创 Windows 10/11上自动安装配置Hive 3.1.2的Python代码

import osimport subprocessimport sysimport xml.etree.ElementTree as ETfrom lxml import etreefrom shutil import copyfile, moveimport shutil import reversion = '3.1.3'hadoop = f'hadoop-{version}'hive_version = '3.1.2'path = 'C:\\'directory_pat

2024-02-01 17:06:29 385

原创 Windows 10/11上自动安装配置Hadoop 3.1.3的Python代码

【代码】Windows 10/11上自动安装配置Hadoop 3.1.3的Python代码。

2024-01-27 22:39:46 361

原创 Windows 10/11上自动安装JRE 8的Python代码

【代码】Windows 10/11上自动安装JRE 8的Python代码。

2024-01-27 22:38:47 353

原创 数据仓库现代化和迁移解决方案Datametica

Datametica在自动化工具的帮助下,通过在整个数据管道(从数据湖评估到数据湖分析)中使用循环流程,确保数据湖的成功实施。Datametica在自动化工具的帮助下,在整个数据管道(从数据湖评估到数据湖分析)中使用循环流程,确保数据湖的成功实施。这些工具简化并自动化了数据迁移过程,帮助企业实现数据平台现代化并将数据迁移到云端。Eagle是Datametica数据迁移工具套件的一部分,该套件还包括自动化和优化的代码转换工具Raven,以及数据验证、协调和比较工具 Pelican。

2024-01-26 13:14:43 1122

原创 空间解析几何在激光雷达的定位和测距中的应用

空间解析几何在激光雷达的定位和测距中起着重要的作用,在激光雷达的定位和测距中,空间解析几何可以帮助我们理解和计算激光雷达与目标物体之间的几何关系,通过描述和分析点、线、面的几何关系,可以实现对目标物体的精确定位和测距。通过对这些点进行处理和分析,我们可以重建目标物体的三维模型,并进一步分析目标物体的形状、大小和位置。最后,通过对多个扫描线的分析,我们可以重建汽车的三维模型,并进一步分析汽车的形状、大小和位置。通过分析和计算激光雷达与目标物体之间的几何关系,可以实现对目标物体的精确定位和测距。

2024-01-21 07:39:39 407

原创 模糊数学在处理激光雷达的不确定性和模糊性问题中的应用

一些研究论文提出了使用模糊逻辑和模糊集合来处理激光雷达数据的方法,比如使用模糊逻辑来建模和处理激光雷达数据中的不确定性和模糊性,以提高目标检测的准确性和鲁棒性,以及使用模糊集合来表示激光雷达数据中的目标特征,以提高目标分类的准确性和鲁棒性,还有使用模糊推理来处理激光雷达数据中的不确定性和模糊性,以提高目标跟踪的准确性和鲁棒性。通过使用模糊逻辑和模糊集合,我们可以更好地建模和处理激光雷达数据中的不确定性和模糊性,从而提高激光雷达在目标检测、跟踪、识别和分类等应用中的性能和鲁棒性。

2024-01-20 07:56:41 429

原创 凝聚态物理的理论在分析和优化电路中的材料和器件中的应用

凝聚态物理的理论可以解释超导体的电子配对机制和超导态的相变行为。例如,通过理论计算和模拟,可以预测不同材料的自旋-自旋相互作用强度,从而优化磁性材料的磁性耦合效应,提高器件的性能。在使用凝聚态物理的理论来研究和预测材料的性质和行为时,需要使用实际材料样本,用于验证理论预测和实验结果的一致性,实验仪器,如光谱仪、显微镜、衍射仪等,用于测量材料的物理性质和结构,以及用于加速大规模数值计算,提高计算效率的高性能计算平台和数值计算软件,如第一性原理计算软件、分子动力学模拟软件等,用于执行材料性质的计算和模拟。

2024-01-18 08:51:26 375

原创 概率论在激光雷达的目标检测和跟踪中的应用

概率论在激光雷达的目标检测和跟踪中发挥着重要的作用,通过建立概率模型和应用贝叶斯推断,可以处理激光雷达数据的不确定性,并提供准确的目标检测和跟踪结果。然后,利用贝叶斯推断,可以根据激光雷达的观测数据来更新对车辆位置和速度的概率分布,从而确定车辆的存在与否。在使用概率论的理论进行激光雷达的目标检测和跟踪研究中,需要使用激光雷达、数据采集设备、计算机硬件、概率论和统计学软件,并需要使用传感器融合算法和跟踪算法,在测试场地对目标进行实际的目标检测和跟踪测试。这些算法可以是自己开发的,也可以使用现有的开源算法。

2024-01-18 08:04:11 586

原创 微积分在激光雷达的信号处理和数据分析中的应用

利用积分处理接收信号的强度变化,可以计算出目标的距离。例如,一篇发表在《光学与光子学进展》杂志上的论文,介绍了一种基于微分和积分的运动目标检测算法,可以从激光雷达的连续扫描数据中提取出运动目标的轨迹,并进行运动态和位置的分析。这些论文通过微分和积分等数学概念和方法,可以在激光雷达的信号处理和数据分析中实现高效的目标识别、速度和距离计算,以及更深入的运动态和位置分析。有一些研究论文使用微分和积分等数学概念和方法来处理和分析激光雷达信号,以提取信号特征、计算目标速度和距离,以及进一步分析目标的运动状态和位置。

2024-01-16 12:51:31 662

原创 粒子物理和原子核物理的理论在模拟和分析电路中的粒子束和辐射效应中的应用

例如,一些论文研究了如何使用粒子物理和原子核物理的理论模拟来预测和分析粒子加速器中产生的粒子束的特性,以及如何优化加速器的设计以提高粒子束的性能。相关的论文有《高能对撞机上若干新物理的现象学研究》,《半导体量子点核环电子结构的理论研究》,《高时间分辨TOF探测技术的研究》,《粲介子性质的研究》,《基于LCG的高能物理实验计算环境的实现与监测》,《碳基核聚变可行性研究》,《野外γ能谱仪的模拟和研制》,《塑料闪烁体型飞行时间计数器的研究》和《离子-表面相互作用过程x射线产生机制的研究》。

2024-01-14 08:41:49 929

原创 线性代数在处理激光雷达的数据处理和图像处理中的应用

激光雷达和图像处理中的数据通常以矩阵的形式表示,线性代数提供了一系列的矩阵运算,如矩阵乘法、矩阵加法、矩阵转置等,这些运算可以用于数据的变换、合并和提取等操作。例如,在激光雷达数据处理中,可以使用矩阵乘法将激光雷达的测量数据与坐标变换矩阵相乘,从而得到在不同坐标系下的数据。另外,可以使用特征值分解来提取点云数据中的主要特征,如点云的形状、密度等。这些论文使用线性代数中的矩阵运算和特征值分解等方法,对激光雷达数据和图像进行处理和分析,以实现三维点云配准、目标检测和识别等任务。

2024-01-13 21:29:48 364

原创 理论力学在模拟和分析电路中的机械结构和振动问题中的应用

理论力学是研究物体运动和力学性质的学科,它可以用于模拟和分析电路中的机械结构和振动问题,例如在MEMS的设计和优化中。在微机械系统(MEMS)的设计和优化中,理论力学可以提供有关结构的力学行为和振动特性的重要信息。通过应用理论力学的振动理论,可以建立振动系统的数学模型,并求解出系统的固有频率、振动模态和振动幅度等重要参数。然后,可以通过求解这些方程,得到悬臂梁的振动频率和振动模态。有一些研究论文使用理论力学的方法来模拟和分析电路中的机械结构和振动问题,尤其是在微机电系统(MEMS)的设计和优化方面。

2024-01-12 08:44:49 371

原创 工业上高效生产氩气的方法

为了提高氩气的提取效率和纯度,需要控制好原料空气的质量、压缩机的性能、冷凝器的设计、精馏和蒸发工艺的控制、设备的维护和清洁以及操作工人的技能水平等因素。冷凝器的设计直接影响到液态空气的温度和液化效率,从而影响氩气的提取效率和纯度。以下三篇论文研究了通过控制和改变原料空气的质量、压缩机的性能、冷凝器的设计、精馏和蒸发工艺的控制来提高氩气的提取效率和纯度的方法。《提高氩气提取率的方法研究》(杨建平等,2013)探讨了提高氩气提取率的方法,包括优化精馏塔的操作条件、改进冷凝器的设计以及控制原料空气的质量等。

2024-01-12 08:39:29 398

原创 工业上高效生产超纯水的方法和原理

利用树脂离子交换法制造超纯水的质量和效率受到多种因素影响,包括树脂的粒径和均匀性,树脂的交联度,活性基团的数量和性质,以及如流速、温度、水质等操作条件。树脂颗粒越小,比表面积越大,交换速度越快,能更有效地去除水中的离子。因此,为了优化树脂在超纯水制造中的效率和质量,可以根据目标去除的离子和进水的水质,选择具有适当粒径、交联度、活性基团和机械强度的树脂。以下三篇论文探讨了通过实验不同粒径、交联度、活性基团和机械强度的树脂,以及不同的操作条件(如流速、温度、水质)来优化树脂在超纯水制造中的效率和质量的方法。

2024-01-11 08:29:57 385

原创 电动力学理论在分析和优化电路的电场和电流分布中的应用

电动力学理论可以用于分析电容器的电场分布。通过电动力学理论,可以计算出电容器中的电场强度分布,并且可以优化电容器的设计,以使电场分布更加均匀,从而提高电容器的性能。通过电动力学理论,可以计算出电感器中的磁场强度分布,并且可以优化电感器的设计,以使电流分布更加均匀,从而提高电感器的性能。通过电动力学理论的分析,我们可以确定电容器的板间距、板的面积和绝缘介质的介电常数等参数,以使电场分布更加均匀。有一些研究论文使用电动力学理论的方法来分析和优化电路中的电场和电流分布,特别是在电容和电感的设计和优化方面。

2024-01-11 08:22:47 371

原创 理论物理在天线设计和射频电路设计中的应用

例如,在微波电路设计中,通过求解麦克斯韦方程组,可以分析电磁场在微波传输线中的传播特性,从而优化传输线的阻抗匹配和传输效率。麦克斯韦方程组是描述电磁场的基本方程,包括麦克斯韦第一和第二方程(关于电场和磁场的高斯定律和法拉第定律)以及麦克斯韦第三和第四方程(关于电场和磁场的安培定律和法拉第电磁感应定律)。射频电路是用来处理和控制电磁波的电路,了解电磁波的传播速度和传播方向可以帮助设计高效的射频电路。通过应用麦克斯韦方程组和电磁波传播理论,可以优化电路的性能,提高天线的辐射效率和射频电路的传输效率。

2024-01-09 08:10:33 375

原创 概率论在超大规模集成电路设计中的应用

通过使用概率论方法,设计人员可以计算元件的失效概率,评估电路的可靠性和故障容忍能力,并采取相应的措施来提高电路的可靠性和容错性能。通过分析电路中各个元件的失效概率和故障模式,可以使用概率论方法来估计电路在面对不同故障情况时的容忍能力。这可以帮助设计人员确定电路的故障容忍能力,并采取相应的措施来提高电路的容错性能。通过分析元件的可靠性数据和使用寿命模型,可以使用概率论方法来估计元件在给定时间内的失效概率。这可以帮助设计人员确定电路的可靠性水平,并采取相应的措施来提高电路的可靠性。

2024-01-08 09:24:03 385

原创 加工制造EUV极紫外光刻机的钼/硅反射镜的方法与技术

EUV光刻机使用的反射镜材质是具有极高精度的钼/硅反射镜。这是因为几乎所有材料对13.5nm的EUV都强烈吸收,故EUV光刻机不能采用DUV那样的透镜,只能采用反射式光学系统。又因为EUV波长与晶格参数接近,很容易发生衍射,反射率也很低,最终的光学反射方案是基于布拉格定律,采用多层镀膜的钼-硅的分布式布拉格反射镜。钼/硅反射镜是一种高精度的反射镜,广泛应用于高功率激光器、光刻机等光学设备中。这种反射镜具有高反射率、高热稳定性和良好的机械性能,能够保证反射光的稳定性和成像质量。钼/硅反射镜的制造工艺非常复

2024-01-07 08:43:03 588

原创 模糊数学在超大规模集成电路设计中的应用

模糊数学是一种处理不确定性和模糊性的数学工具,可以应用于超大规模集成电路(VLSI)设计中的不确定性建模和决策问题。在VLSI设计中,存在许多不确定因素,如电路元件的参数变化、环境条件的变化等。通过模糊数学的方法,可以将这种模糊输入和输出进行建模,以优化电路的鲁棒性和可靠性。通过使用模糊数学的方法,可以将这种不确定性考虑在内,从而设计出更加鲁棒的电路。例如,可以使用模糊逻辑来设计电路的控制逻辑,使其能够适应不同的输入条件。例如,可以使用模糊规则来描述不同目标函数之间的权重关系,从而找到一个平衡的解。

2024-01-06 08:34:25 378

原创 空间解析几何在超大规模集成电路设计中的应用

在超大规模集成电路(VLSI),的布局和布线问题中,空间解析几何可以应用于确定电路中各个元件的位置和连接方式,以最大程度地减少电路的面积和延迟。通过对这些几何图形的位置和相互关系进行分析,可以确定元件之间的连接方式,以实现电路的功能。然后,通过分析这些点和线段的位置和相互关系,可以确定逻辑门和寄存器的布局方式,以最小化电路的面积。通过空间解析几何的方法,可以确定信号线的路径和走向,以最小化电路的延迟。通过空间解析几何的方法,可以确定信号线的路径和走向,以最小化信号线的长度和延迟。

2024-01-06 08:31:02 379

原创 内存数据库Redis 7.2性能优化经验技巧

分片放置策略是Redis Enterprise Software中的一个重要特性,决定了主分片和其对应的副本分片在集群节点上的位置,它可以帮助你在保持数据的弹性和高可用性的同时,优化你的数据库性能。例如,对于一个有两个主分片和两个副本分片的数据库,在一个有三个节点的集群上,使用密集简略,两个主分片会被放置在一个节点上,两个副本分片会被放置在另一个节点上,在稀疏策略下,集群会尽可能地将数据库分片分布在尽可能多的节点上,当所有节点都有数据库分片后,分片会被均匀地分布在各个节点上,以保持节点的健康状态。

2024-01-04 09:36:13 563

原创 实分析、复分析、泛函分析、测度论和调和分析在超大规模集成电路设计中的应用

通过测度论的方法,可以将信号和噪声分离开来,从而实现信号的降噪,一种常用的方法是使用小波变换,将信号和噪声在小波城中进行分解,然后通过选择合适的阈值来滤除噪声,保留信号,测度论提供了对小波系数进行测度的工具,可以帮助我们选择合适的阈值,实现信号的降噪。例如,在信号重构中,我们可以使用最小二乘法来优化信号的重构过程,最小二乘法是一种优化方法,通过最小化重构信号与原始信号之间的误差来实现信号的重构,泛函分析中的范数和内积等概念可以帮助我们定义误差的度量,并提供了一种优化信号重构的框架。

2024-01-04 09:26:52 368

原创 抽象代数和群表示论在超大规模集成电路设计中的应用

抽象代数和群表示论可以应用于超大规模集成电路设计中的编码和解码问题,以及电路中的信号处理和调制问题。通过研究这些数学方法的基本概念和应用技巧,可以设计出高效的编码和解码算法,优化电路中的信号处理和调制过程,提高电路的性能和效率。通过研究群的性质和结构,可以设计出高效的编码和解码算法,提高电路的传输效率和可靠性。通过研究群的表示和表示的性质,可以设计出优化的信号处理和调制算法,提高电路的性能和效率。通过将信号表示为正交群的表示矩阵,可以实现信号的高效处理和调制,提高电路的性能和可靠性。

2024-01-04 09:09:43 378

原创 微积分在超大规模集成电路设计中的应用

通过微积分的方法,可以求解电路中的最优电流分布,计算电路的功耗和信号传输速度等性能指标,从而实现电路的优化设计。微积分可以用于求解电路中的最优电流分布,以实现最佳的电路性能。例如,在功耗优化中,可以使用微积分方法来求解电路中的最小功耗电流分布,从而实现电路的节能设计。例如,在VLSI芯片设计中,可以使用微积分方法来计算不同电路模块的功耗,并进行功耗优化,以提高芯片的能效。例如,在高速通信电路设计中,可以使用微积分方法来计算信号的传输速度,并进行延迟优化,以提高通信系统的性能。

2024-01-03 14:06:18 364

原创 运筹学在超大规模集成电路设计中的应用

以下是一些常用的运筹学方法和技术在VLSI布局中的应用:1.线性规划是一种常用的优化方法,可以用于解决VLSI布局中的面积最小化问题,通过将电路元件的位置和大小作为变量,将面积约束和功耗约束转化为线性不等式约束,可以使用线性规划算法找到最小面积的布局方案。通过运筹学方法,可以将电路的布局和线路规划问题转化为一个数学模型,模型中的变量可以表示逻辑门的位置和连接线的路径,约束条件可以包括电路元件之间的距离限制、信号传输的路径长度限制和功耗限制等。优化算法可以通过搜索和迭代的方式,找到便目标函数最小化的最优解。

2024-01-03 13:40:57 340

原创 备份恢复PostgreSQL 16数据库的步骤

该命令的基本用法是:“pg_dump <数据库名称> > <备份文件名>”。2.要指定“pg_dump”连接哪个PostgreSQL数据库服务器,请使用命令行选项“-h <数据库主机名1>”和“-p <数据库端口>”。4.如果要将PostgreSQL数据库直接从一台服务器转移到另一台服务器,可以使用以下命令:“pg_dump -h <数据库主机名1> <数据库名称1> | psql -h <数据库主机名2> <数据库名称2>”。恢复数据库的一般命令形式是“psql <数据库名称> < <备份文件名>”。

2024-01-03 13:38:12 412

原创 MySQL 8数据库性能优化的要点

数据库性能优化是一个涉及到多个层面的过程,需要根据具体的应用需求和硬件环境来进行。数据库级别的优化是一个涉及到多个因素的过程,需要根据具体的应用需求和数据库的工作负载来进行。通过SQL语句的编写和调整,可以提高其执行效率。例如,使用索引来加速查询,优化SELECT语句以减少数据查找时间,或者调整数据更改语句以减少数据写入时间。还可以使用EXPLAIN命令来理解查询的执行计划,并据此进行优化。应用程序如何与数据库交互,以及如何使用数据库的特性,例如,应用程序可以使用适当的锁定策略来允许并发操作,或者使用缓存来

2023-12-27 12:36:50 361

原创 PostgreSQL 16数据库性能优化的要点

PostgreSQL是一个功能强大且多功能的数据库系统,可以处理各种工作负载和应用程序。然而,为了实现最佳性能,需要进行一些调整和优化。影响PostgreSQL数据库性能的因素有索引、全文搜索、性能的配置参数、并发事务和查询方式和结构等,以下是PostgreSQL 16性能调优的一些技巧:索引是提高数据库性能的常见方式,索引允许数据库服务器更快地找到和检索特定的行。然而,索引也会给整个数据库系统增加开销,因此应合理使用。一旦创建了索引,系统会在表被修改时更新索引,并在认为使用索引比顺序表扫描更有效时在查询

2023-12-27 11:54:05 426

原创 C++实现自动演示程序信息,防止电脑锁屏和休眠

C++实现除了自身程序的窗口以外,在Windows10上把所有打开的应用程序窗口依次最大化,每次窗口最大化之间的间隔是10秒。

2023-08-23 14:25:07 173

原创 两个数组的卷积

实现两个数组的卷积,数组可自行添加更改。

2022-07-06 15:58:05 753 1

原创 有用的技术分享主题

SQL Server数据库和Agent Job集成化监控工具Airflow调度工具的安装和使用Tableau报表开发网络爬虫技术开发Python GUI应用开发基于S3的数据湖架构设计和大数据开发Hive大数据仓库超大数据集去重解决方案Teradata和SQL Server数据库之间大量数据压缩传输解决方案数据治理Concur报销系统的配置和维护ETL开发、优化和运维总结...

2022-02-18 22:04:08 1735

原创 Oracle数据库和Informatica ETL逻辑及视图、用户定义函数和存储过程迁移到AWS的Hive数据仓库基本流程

首先,我们需要注册AWS帐号,并启用EC2(Elastic Cloud Computing,高性能云计算)、EMR(Elastic Map-Reduce,高性能大数据计算)、Redshift/Snowflake数据仓库和S3(Simple Storage Service,简单存储服务)、DevOps(用于Github持续集成)和Github Enterprise这些服务。其次,我们需要梳理清楚Oracle数据库中Informatica Designer中的数据源、目标表和数据转换映射对象中的表、视图以及用

2021-09-26 12:32:24 501

原创 Teradata数据库和Informatica ETL逻辑及视图、用户定义函数和存储过程迁移到AWS的Hive数据仓库基本流程

首先,我们需要梳理清楚Teradata数据库中Informatica Designer中的数据源、目标表和数据转换映射对象中的表、视图以及用户定义函数和存储过程之间的依赖关系。操作上可以使用Teradata的SHOW语句,如SHOW TABLE <表名>、SHOW VIEW <视图名>、SHOW PROCEDURE <存储过程名>、SHOW FUNCTION <用户定义函数名>,以及DBC架构下面的系统视图如DBC.Tables、DBC.Columns来查看数

2021-09-24 12:56:39 821

原创 从运程Teradata数据库到本地SQL Server数据库的离线快速数据压缩传输方案

需求是从美国总部的Teradata数据库每天定时传几百MB的增量数据到中国分部的SQL Server数据库,需要在两个小时以内完成。如果直接采用数据库直连的方式传输,需求是从美国总部的Teradata数据库每天定时传几百MB的增量数据到中国分部的SQL Server数据库,需要在两个小时以内完成。如果直接采用数据库直连的方式传输,由于网络不稳定和网络带宽较低,很难完成这样的快速数据传输的需求,所以我们采用离线压缩传输的方式实现。具体的实现方案为先在美国借用或架设一台跳板服务器,编写C#程序用Teradata

2021-09-15 14:36:54 196

原创 SQL Server数据库和SSIS包及视图、用户定义函数和存储过程迁移到AWS的Hive数据仓库基本流程

首先,我们需要梳理清楚SQL Server数据库中SSIS包及表、视图、用户定义函数和存储过程之间的依赖关系。操作上可以使用SQL Server的系统存储过程sp_depends和INFORMATION_SCHEMA架构下面的系统视图来查看数据库对象之间的关系。对于SSIS包,可以将发布在SQL Server服务器上的SSIS包用系统存储过程导出为二进制数据流,然后解析出其中用到数据库对象和dtsx文件,然后将得到的依赖性关系的信息存储到数据库或文件中。迁移ETL程序的时候,可以根据依赖性关系,确定迁移项目

2021-08-27 15:04:28 486

原创 利用ABBYY软件实现个人资产管理软件项目开发设计的思路

首先,由于银行和公司出于信息安全的考虑,是不可能跟我们这个个人应用做直接的数据对接的,所以我们只能针对银行和商户或公司发给个人的账单做OCR文字识别来导入数据。搞一个这样的项目可以先做一个电脑端网站或手机端的APP,接着上传个人银行账单的PDF文件和商户或公司提供的PDF个人账单导入后台服务器。上传的时候需要指定账单的类型,以便程序采用不同的策略来对 PDF文件中的内容进行OCR识别。然后在后台服务器上用OCR加机器学习的方法来解析pdf文件的内容,最后将账单数据导入用户资产数据库,并显示在界面上。具体操

2021-08-26 17:58:21 71

Spark技术参考手册

Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架,Spark,拥有Hadoop MapReduce所具有的优点;但不同于MapReduce的是——Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。

2022-07-08

Databricks技术参考手册

Databricks是Spark 的商业化公司,致力于提供基于 Spark 的云服务,可用于数据集成,数据管道等任务。

2022-06-23

云数据库Snowflake技术参考手册

云数据库Snowflake技术参考手册

2022-02-10

Apache HBase技术参考手册

Apache HBase技术参考手册

2022-01-26

Python3 多线程网络编程与分布式爬虫技术手册.docx

Python3 多线程网络编程与分布式爬虫技术手册

2022-01-14

AWS SAA-C02专家系统文档.docx

AWS 架构设计选型手册

2021-12-14

GCC技术参考手册.docx

GCC(GNU Compiler Collection,GNU编译器套件)是由GNU开发的编程语言译器。GNU编译器套件包括C、C++、 Objective-C、 Fortran、Java、Ada和Go语言前端,也包括了这些语言的库(如libstdc++,libgcj等。)

2021-12-06

机器学习技术参考手册.docx

机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。

2021-12-01

Java虚拟机技术手册.docx

Java虚拟机技术手册

2021-11-29

DataProcessingUtility.zip

SQL Server CLR存储过程实现从SSIS包中查询文本数据,包括表名,视图名和字段名等。

2021-10-22

MFC技术参考手册.docx

微软基础类库(英语:Microsoft Foundation Classes,简称MFC)是微软公司提供的一个类库(class libraries),以C++类的形式封装了Windows API,并且包含一个应用程序框架,以减少应用程序开发人员的工作量。其中包含大量Windows句柄封装类和很多Windows的内建控件和组件的封装类。

2021-10-15

Redis技术参考手册.docx

Redis是一个key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。

2021-09-14

Linux Shell使用手册.docx

Shell 是一个用 C 语言编写的程序,它是用户使用 Linux 的桥梁。Shell 既是一种命令语言,又是一种程序设计语言。Shell 是指一种应用程序,这个应用程序提供了一个界面,用户通过这个界面访问操作系统内核的服务。

2021-09-08

Docker使用手册.docx

Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的镜像中,然后发布到任何流行的 Linux或Windows 机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口。

2021-09-02

Scala 开发教程.docx

Scala 开发教程

2021-08-31

Spark性能优化.docx

Spark性能优化的一些方法。

2021-08-31

企业大数据基础平台搭建和实用开发代码.docx

企业大数据基础平台搭建和实用开发代码

2021-08-29

SQL Server数据库技术手册.docx

SQL Server 是Microsoft 公司推出的关系型数据库管理系统。具有使用方便可伸缩性好与相关软件集成程度高等优点,可跨越从运行Microsoft Windows 98 的膝上型电脑到运行Microsoft Windows 2012 的大型多处理器的服务器等多种平台使用。 Microsoft SQL Server 是一个全面的数据库平台,使用集成的商业智能 (BI)工具提供了企业级的数据管理。Microsoft SQL Server 数据库引擎为关系型数据和结构化数据提供了更安全可靠的存储功能,使您可以构建和管理用于业务的高可用和高性能的数据应用程序。

2021-08-20

Oracle数据库参考手册.docx

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小微机环境。它是一种高效率的、可靠性好的、适应高吞吐量的数据库方案。

2021-08-19

Microsoft Azure Function Apps 操作大全.docx

Microsoft Azure Function Apps 原理与概述,开发部署流程。

2021-08-09

Pandas技术参考手册.docx

Pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具,还可以连接数据库完成数据处理的流程。

2021-08-09

MySQL技术参考手册.docx

MySQL是一种开放源代码的关系型数据库管理系统(RDBMS),使用最常用的数据库管理语言--结构化查询语言(SQL)进行数据库管理,本文档有MySQL数据库使用方法和代码示例,以及开发维护方法。

2021-08-06

Flink技术参考手册.docx

Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序,Flink的流水线运行时系统可以执行批处理和流处理程序。此外,Flink的运行时本身也支持迭代算法的执行。

2021-07-23

Kafka技术参考手册.docx

Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。

2021-07-20

Zookeeper 技术参考手册.docx

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

2021-07-20

Apache Hadoop技术参考手册.docx

关于Hadoop中YARN、MapReduce和HDFS等组件原理详细介绍,环境搭建和Hadoop 3.0新特性和编程方法。

2021-07-05

Apache Storm技术参考手册.docx

Apache Storm是一个分布式实时大数据处理系统。Storm设计用于在容错和水平可扩展方法中处理大量数据。

2021-06-23

HBase技术参考手册.docx

HBase是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的Google论文“Bigtable:一个结构化数据的分布式存储系统”。

2021-06-22

MySQL、Teradata和PySpark代码互转表和数据转换代码.docx

MySQL、Teradata和PySpark代码互转表,方便在不同的关系数据库和大数据仓库之间转换代码逻辑,另有数据转换操作的PySpark和Hive代码。

2021-05-22

C#实现Excel导入数据到SQL Server数据库

Excel导入数据,使用SqlBulkCopy类批量导入数据到数据库。

2021-04-13

VC++实现影像特征提取

影像特征提取主程序,利用Moravec算子对影像特征进行提取。

2021-04-13

VC++实现的图像批量处理程序

本程序主要实现了图像处理、批量转换与处理、PSD文件管理、照片处理等,其中图像处理部分主要是对图像进行各个效果的显示,例如图像的锐化效果、浮雕效果等。批量转换与处理部分主要实现各种图像格式之间的转换,PSD文件管理部分主要是对PSD文件进行浏览和转换操作,照片处理主要用于照片的排版。

2021-04-13

C#实现的MES车间信息控制系统

C#实现的MES车间信息控制系统

2021-04-06

VC实现的网吧管理程序

VC实现的网吧管理程序,包含用户管理、监测和计费等功能。

2021-04-06

Android新闻段子客户端

Android 4.4 + jdk 1.8,新闻段子客户端,包含新闻模块、段子模块,趣图模块、首页跳转模块、关于模块等等。

2021-04-03

PyTorch技术参考手册

PyTorch是一个开源的Python机器学习库,基于Torch,用于自然语言处理等应用程序。它既可以看作加入了GPU支持的numpy,同时也可以看成一个拥有自动求导功能的强大深度神经网络。除了Facebook外,PyTorch还被Twitter、CMU和Salesforce等机构采用。

2023-08-01

Node.js技术参考手册

Node.js是一个基于Chrome V8引擎的JavaScript运行环境,用于在服务端上运行JavaScript。它使用了一个事件驱动、非阻塞式I/O模型,使得JavaScript可以与PHP、Python、Perl、Ruby等服务端语言平起平坐的脚本语言。Node.js对一些特殊用例进行优化,提供替代的API,使得V8在非浏览器环境下运行得更好,V8引擎执行Javascript的速度非常快,性能非常好,基于Chrome JavaScript运行时建立的平台, 用于方便地搭建响应速度快、易于扩展的网络应用。

2023-07-13

Apache Airflow技术参考手册

Apache Airflow是一个Airbnb 的 Workflow 开源项目,用于开发、调度和监控面向批处理的工作流。Airflow的可扩展Python框架使您能够构建与几乎任何技术连接的工作流程。Web界面有助于管理工作流的状态。Airflow可通过多种方式进行部署,从笔记本电脑上的单个进程到分布式设置,以支持最大的工作流程。

2022-11-22

Databricks技术参考手册

Databricks是Spark 的商业化公司,致力于提供基于 Spark 的云服务,可用于数据集成,数据管道等任务。

2022-06-23

云数据库Snowflake技术参考手册

云数据库Snowflake技术参考手册

2022-02-10

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除