小文 - 火车采集器官方博客

火车采集器2011目标

作者：小文发布于：2010-11-8 10:05 Monday 分类：官方公告

1.软件使用cs结构
服务端负责数据的采集处理工作，客户端用来进行配置的修改。服务端做为系统服务在后台运行。
2.数据采集流程可变
可以实现多级及复杂数据的采集和保存。
3.海量数据保存
使用nosql数据库，数据保存不再是瓶颈。

使用插件配合采集器过滤不需要的数据(PHP)

作者：小文发布于：2010-10-26 9:12 Tuesday 分类：免费插件

有时我们需要对采集的内容长度进行限制.比如标题长度不得小于3大于20,并且不能包含某些字符串.我们可以在插件中写相关的代码,将采集的数据清设置为空,然后在采集器的标签设置中,设置该标签内容不得为空,然后在系统设置中设置内容不符合时删除记录,就可以快速的将不需要的代码删除掉了.以后是PHP的示例代码.

<?php
if(array_key_exists('标题',$LabelArray))
{
$title=$LabelArray['标题'];
if(strlen($title)<3||strlen($title)>20||strpos($title,'╩')!==false) $LabelArray['标题']='';
}

echo serialize($LabelArray);
?>

评论(0) 引用(0) 浏览(19134)

新浪微博评论及转发数采集插件(C#)

作者：小文发布于：2010-10-25 16:28 Monday 分类：免费插件

该插件可以获取一个躯微博对应的转发数及评论数.使用方法如下:

1.开启使用插件,在保存时选择该插件

2.新建mid,转发数,评论数三个标签,其中mid就是对应的微博id

标签: 微博

评论(3) 引用(0) 浏览(19278)

Html代码白名单过滤插件(C#)

作者：小文发布于：2010-10-18 9:28 Monday 分类：免费插件

该插件将过滤掉所有除需要外的html代码.在处理前您需要使用采集器过滤js,css等代码.您可以下载该插件或是自己修改代码以达到自己的需要.

插件主要源码:

using System;
using System.IO;
using System.Reflection;
using System.Runtime.CompilerServices;
using System.Text;
using System.Windows.Forms;
using System.Collections;
using System.Collections.Generic;

/*注意事项
* 1.这个命名空间不能更改.当然,你可以在其它的文件里使用其它的命名空间,在这里使用.
* 2.必须引用采集器目录下的LeWell.dll文件.
* 3.必须实现 IPlugin接口里的 Run 方法
* 4.编写过程出请对传入传出的参数进行检测
* */

namespace LeWell.Plugins
{
    public class Demo : LeWell.Plugins.IPlugin   //使用的IPlugin接口,请引用 LeWell.Plugins.dll 文件
    {
        /// <summary>
        /// 插件运行处理预留方法
        /// </summary>
        /// <param name="str">要处理的源代码</param>
        /// <param name="pageurl">采集页面地址</param>
        /// <param name="pagetype">页面类型为一枚举 LeWell.Plugins.PageType ,其中List,Pages,Content,Save分别代表列表页,分页或多页,默认页,保存时</param>
        /// <param name="encoding">页面编码</param>
        /// <param name="cookies">网站的cookies</param>
        /// <returns></returns>
        public string Run(string str, string pageurl, LeWell.Plugins.PageType pagetype, Encoding encoding, System.Net.CookieCollection cookies)
        {
            ////请在这里执行您的操作,返回string
            //string result = "这个结果是单页面测试,后边的数据为程序接收到的数据:\r\n\r\n";
            //result += "当前的页面网址为:" + pageurl.ToString() + "\r\n";
            //result += "当前的页面类型为:" + pagetype.ToString() + "\r\n";
            //result += "当前的网页编码为:" + encoding.ToString() + "\r\n";
            //result += "当前网页的代码为:" + str.ToString() + "\r\n";
            return str;
        }


        /// <summary>
        /// 这个是用来在最后处理采集器入库前的数据的
        /// </summary>
        /// <param name="ht"></param>
        /// <param name="pageurl"></param>
        /// <param name="encoding"></param>
        /// <param name="cookies"></param>
        /// <returns></returns>
        public Hashtable Run(Hashtable ht, string pageurl, Encoding encoding, System.Net.CookieCollection cookies)
        {
            System.Collections.Generic.List<string> list = new System.Collections.Generic.List<string>();
            if (ht.ContainsKey("内容"))
            {
                string data = ht["内容"].ToString();
                if (string.IsNullOrEmpty(data)) return ht;

                list.Add("div");
                list.Add("ul");
                list.Add("dt");
                list.Add("dl");
                list.Add("dd");
                list.Add("table");
                list.Add("tbody");
                list.Add("tr");
                list.Add("td");
                list.Add("p");

                foreach (string s in list)
                {
                    data = System.Text.RegularExpressions.Regex.Replace(data, "<(/?)" + s + "[^>]*?>", "<$1" + s + ">", System.Text.RegularExpressions.RegexOptions.IgnoreCase);
                    data = System.Text.RegularExpressions.Regex.Replace(data, "<(/?)" + s + ">", "ASDFGHJKL$1" + s, System.Text.RegularExpressions.RegexOptions.IgnoreCase);
                }

                data = System.Text.RegularExpressions.Regex.Replace(data, "<br(\\s)?/?>", "QWERTYUIOPB", System.Text.RegularExpressions.RegexOptions.IgnoreCase);
                List<KeyValuePair<string, string>> dic = new List<KeyValuePair<string, string>>();
                System.Text.RegularExpressions.Regex regex = new System.Text.RegularExpressions.Regex("<a[^>]*?>[^<]*?</a>", System.Text.RegularExpressions.RegexOptions.IgnoreCase);
                System.Text.RegularExpressions.MatchCollection mc = regex.Matches(data);
                foreach (System.Text.RegularExpressions.Match m in mc)
                {
                    dic.Add(new KeyValuePair<string, string>(m.Value, base64_encode(m.Value)));
                }

                regex = new System.Text.RegularExpressions.Regex("<img\\s+[^>]*?>",System.Text.RegularExpressions.RegexOptions.IgnoreCase);
                mc = regex.Matches(data);
                foreach (System.Text.RegularExpressions.Match m in mc)
                {
                    dic.Add(new KeyValuePair<string, string>(m.Value, base64_encode(m.Value)));
                }

                data = System.Text.RegularExpressions.Regex.Replace(data,"<[^>]*?>", "");

                foreach (KeyValuePair<string, string> kv in dic)
                {
                    data = data.Replace(kv.Value, kv.Key);
                }

                foreach (string s in list)
                {
                    data = data.Replace("ASDFGHJKL" + s, "<" + s + ">");
                    data = data.Replace("ASDFGHJKL/" + s, "</" + s + ">");
               }
                data = data.Replace("QWERTYUIOPB","<br>");
                ht["内容"] = data;
            }
            return ht;
        }

        /// <summary>
        ///Base64加密
        /// </summary>
        /// <returns>返回string</returns>
        public string base64_encode(string s)
        {
            string strResult = "";

            if ((s != null) && (s != ""))
            {
                strResult = Convert.ToBase64String(System.Text.ASCIIEncoding.Default.GetBytes(s));
            }

            return strResult;
        }

        /// <summary>
        ///Base64解密
        /// </summary>
        /// <returns>返回string</returns>
        public string base64_decode(string s)
        {
            string strResult = "";

            if ((s != null) && (s != ""))
            {
                int buling = s.Length % 4;
                if (buling == 3) s = s + "=";
                else if (buling == 2) s = s + "==";
                else if (buling == 1) s = s.Substring(0, s.Length - 1);
                strResult = System.Text.ASCIIEncoding.Default.GetString(Convert.FromBase64String(s));
            }

            return strResult;
        }
    }

}

标签: 过滤

评论(0) 引用(0) 浏览(9118)

PHPWind 8.0 论坛免登陆发布接口发布

作者：小文发布于：2010-10-16 9:44 Saturday 分类：免费接口

PHPWind 8.0 论坛免登陆发布接口使用说明

一、功能特性
1、免登陆,用户可以设置验证密码来防止未授权的访问.
2、多用户随机发布主题和回复.

二、使用教程
1、文字教程
    1.1、选择您网站对应的接口文件.如您网站是gbk编码,请选择 jiekou_gbk.php,如果您论坛是utf8编码,请选择 jiekou_utf8.php.
    1.2、打开接口文件,修改验证密码,设置随机回复用户名,然后保存.
    1.3、修改接口文件名并上传至网站的根目录.
    1.4、修改发布模块 PHPWind 8.0 论坛免登陆接口发布模块.cwr ,将发布模块里的发布文件地址后缀及刷新列表文件地址后缀中的文件名修改为您刚才修改的接口文件名,并设置随机发布用户名.
    1.5、设置发布配置,采集并开始发布.
2、视频教程
    参考教程:http://video.locoy.com/jiekou/discuz/discuz7.2.7z

三、注意事项
1、该接口仅适用于发布主题或回复到到 PHPWind 8.0 论坛.
2、该接口基于PHPWind 8.0 GBK版制作，适用于PHPWind 8.0 GBK/utf-8版本，请在使用时接口选择对应的版本.
3、果您需要发布主题和回复,则需要在内容标签中,将回复及主题以|||相连接.
4、如果您需要指定用采集的发布时间,则需要提交所有主题和回复的时间.多个发布时间之间以|||分隔.时间格式为 2010-10-11 10:12 类类似 .并且主题和回复的时间格式需要可以正确格式化成PHP的系统时间戳形式.

四.参数说明
1、必选参数
　　title　　　　　   标题
　　content　　　　　内容
    cid 　　　　　    主栏目ID，必填，可在后台网站栏目管理处查看该id
    username          用户名,必须使用网站上已存在的用户名,默认是随机用户名,用户需要在模块中设置
    pw                验证密码.在刷新列表和post发布时使用,需要模块和接口中的验证密码一致.

2、可选参数
　　tags　　　     　关键字
    spidertime        主题发布的时间,如果没有设置,则使用随机时间,随机时间是在当前时间的前一段时间取值.多个发布时间之间以|||分隔

标签: phpwind

评论(9) 引用(0) 浏览(23813)

«... 24 25 26 27 28 29 30 31 32 33 34 ... »

火车采集器官方博客

发布关于火车采集器的最新消息,最新资源,最新活动

火车采集器2011目标

使用插件配合采集器过滤不需要的数据(PHP)

新浪微博评论及转发数采集插件(C#)

Html代码白名单过滤插件(C#)

PHPWind 8.0 论坛免登陆发布接口发布

搜索

联系我们

联系电话

QQ邮件订阅

最新评论