1. make spot dups look back 5 mins.
[spider.git] / perl / DXDupe.pm
1 #
2 # class to handle all dupes in the system
3 #
4 # each dupe entry goes into a tied hash file 
5 #
6 # the only thing this class really does is provide a
7 # mechanism for storing and checking dups
8 #
9
10 package DXDupe;
11
12 use DXDebug;
13 use DXUtil;
14 use DXVars;
15
16 use vars qw{$lasttime $dbm %d $default $fn};
17
18 $default = 48*24*60*60;
19 $lasttime = 0;
20 $fn = "$main::data/dupefile";
21
22 use vars qw($VERSION $BRANCH);
23 $VERSION = sprintf( "%d.%03d", q$Revision$ =~ /(\d+)\.(\d+)/ );
24 $BRANCH = sprintf( "%d.%03d", q$Revision$ =~ /\d+\.\d+\.(\d+)\.(\d+)/ ) || 0;
25 $main::build += $VERSION;
26 $main::branch += $BRANCH;
27
28 sub init
29 {
30         $dbm = tie (%d, 'DB_File', $fn) or confess "can't open dupe file: $fn ($!)";
31 }
32
33 sub finish
34 {
35         undef $dbm;
36         untie %d;
37         undef %d;
38 }
39
40 sub check
41 {
42         my ($s, $t) = @_;
43         return 1 if find($s);
44         add($s, $t);
45         return 0;
46 }
47
48 sub find
49 {
50         return 1 if exists $d{$_[0]};
51 }
52
53 sub add
54 {
55         my ($s, $t) = @_;
56         $t = $main::systime + $default unless $t;
57         $d{$s} = $t;
58 }
59
60 sub del
61 {
62         my $s = shift;
63         delete $d{$s};
64 }
65
66 sub process
67 {
68         # once an hour
69         if ($main::systime - $lasttime >=  3600) {
70                 while (($k, $v) = each %d) {
71                         delete $d{$k} if $main::systime >= $v;
72                 }
73                 $lasttime = $main::systime;
74         }
75 }
76
77 sub get
78 {
79         my $start = shift;
80         my @out;
81         while (($k, $v) = each %d) {
82                 push @out, $k, $v if !$start || $k =~ /^$start/; 
83         }
84         return @out;
85 }
86
87 sub listdups
88 {
89         my $let = shift;
90         my $dupage = shift;
91         my $regex = shift;
92
93         $regex =~ s/[\^\$\@\%]//g;
94         $regex = ".*$regex" if $regex;
95         $regex = "^$let" . $regex;
96         my @out;
97         for (sort { $d{$a} <=> $d{$b} } grep { m{$regex}i } keys %d) {
98                 my ($dum, $key) = unpack "a1a*", $_;
99                 push @out, "$key = " . cldatetime($d{$_} - $dupage);
100         }
101         return @out;
102 }
103 1;