tdb: new test for dying during a transaction.

This demonstrates some serious failings, which get cleaned up in
following patches.

ccanlint: fix scoring, add score details to --verbose.

Use raw .o files rather than -lccan

Import 898b5edfe757cb145960b8f3631029bfd5592119 from ctdb:
Author: Volker Lendecke <vl@samba.org>  2010-01-30 03:51:09

    tdb: fix an early release of the global lock that can cause data corruption

    There was a bug in tdb where the

                    tdb_brlock(tdb, GLOBAL_LOCK, F_UNLCK, F_SETLKW, 0, 1);

    (ending the transaction-"mutex") was done before the

                            /* remove the recovery marker */

    This means that when a transaction is committed there is a window where another
    opener of the file sees the transaction marker while the transaction committer
    is still fully functional and working on it. This led to transaction being
    rolled back by that second opener of the file while transaction_commit() gave
    no error to the caller.

    This patch moves the F_UNLCK to after the recovery marker was removed, closing
    this window.

Fix bug where we used old clear_if_first when doing I/O in open.
Add more logging.

Change default behaviour: disallow nesting (safer).

Unlike the upstream, we don't have a stable ABI/API.

Import c1c0ede32dc00ed619d1cf5fda40a9de43995f3a from ctdb:
   tdb: add TDB_DISALLOW_NESTING and make TDB_ALLOW_NESTING the default behavior

    We need to keep TDB_ALLOW_NESTING as default behavior,
    so that existing code continues to work.

    However we may change the default together with a major version
    number change in future.

    metze
    (cherry picked from samba commit 3b9f19ed919fef2e88b2f92ae541e07bc7379cd1)

Signed-off-by: Stefan Metzmacher <metze@samba.org>

Import 855391c1e37012b0d6c673a304bb8da8a1efcd72 from ctdb:
    tdb: always set tdb->tracefd to -1 to be safe on goto fail

    metze
    (cherry picked from samba commit 85449b7bcc4bd7948bea38b5514a02357950a002)

Signed-off-by: Stefan Metzmacher <metze@samba.org>

Import f5c992bdaeb73ef726ff4728a9922721474cd6f5 from ctdb:

    tdb: reset tdb->fd to -1 in tdb_close()

    So that erroneous double tdb_close() calls do not try to close() same
    fd again. This is like SAFE_FREE() but for fd.

Signed-off-by: Kirill Smelkov <kirr@mns.spb.ru>
Signed-off-by: Rusty Russell <rusty@rustcorp.com.au>
    (cherry picked from samba commit b4424f8234a78a79fb2d71d46ca208b4f12e0f9e)

Signed-off-by: Stefan Metzmacher <metze@samba.org>

Import 470750fa2e3cf987f10de48451b1ee13aab03907 from ctdb:
    tdb: detect tdb store of identical records and skip

    This can help with ldb where we rewrite the index records
    (cherry picked from samba commit d4c0e8fdf063f88032c32de7ece60d502b322089)

Signed-off-by: Stefan Metzmacher <metze@samba.org>

Import 03b3682e3fa53c9f5fdf2c4beac8b5d030fd2630 from ctdb:

    tdb: rename 'struct list_struct' into 'struct tdb_record'

    metze
    (cherry picked from samba commit 3b62e250c066f44d0ab08a7db037b6b4f74a914b)

Signed-off-by: Stefan Metzmacher <metze@samba.org>

New test: reveals race (found by Volker) when open occurs during transaction commit.

ccanlint: fix directory issues properly.

Fix valgrind running with debugger.

Fix config for browsing.

Fix browser support.

Make manifest code do chdir into appropriate directory.

New test: run tests under valgrind.
(Also, remove bogus test dependency for hdr include check)

Joey's btree module.

More --recursive fixes for manifest listing.

Fix ccan.tar.bz2 tarball.

Fix tests: path change because they're now run under ccanlint (from their dir)

Makefile fixes: we now do dependencies properly for each ccan module.

Fix getting sub-depends.

More header fixups: now it all compiles again.

Remove old run-tests, clean up #includes to all be <ccan/...

New asort routine; unf. breaks under -Wmissing-prototypes etc :(

New talloc_set for auto-cleanup.

Update where browsing points.

asearch: typesafe binary search.

Don't print full fail results on normal check

tdb: add -t (always transactional) to tdbtorture

tdb: add logging to tdb_check for more verbose answers.

tdb: use logging and tdb_check in tdbtool

tdb: Add tdbtool to 'clean'

Import tdbtool from SAMBA (e440a2e11e78a562f97971c0dfe0cf3f694996ff)

tools/ccanlint: build tests are now compulsory
Offer to run debugger when test fails, with breakpoint.

Web updates.

tdb: avoid checkfn on dead records, reorganize and comment code.
Add test for non-mmap tdbs.

ccan/tdb: tdb_check() function.

sparse_bsearch: new module

typesafe_cb: more support for typesafe compare functions.

Fix documentation: actually, always evaluates to 0.

tools: more build convenience work

add EXCLUDES= with more obscure modules.
use ccanlint for "make check", finally.

tools: fix compile warning under Ubuntu

tdb: remove seqnum field from header
Unused since " tdb: no longer need seqnum store hack as we can read after prepare."

Fix "make check": this is temporary until we use ccanlint for it.

More test fixes.

tap: pass tests after ccanlint changes.

Now we compile everything into the tmp dir.

ccan_depends: Fix up after tools changes.

ccanlint: only compile _info once; speeds tdb test from 18 to 16 seconds.

Generally clean up temp file handling.

Use -O not -O3: reduces ccan/tdb test time from 24 to 18 seconds.

ccanlint: don't use total_score to separate kinds of tests; we have subdirs

ccanlint: compile and run tests.
This means we should skip building if there are no C files in module: running tests requires building the module, but not necessarily that it has any C files.

tdb: no longer need seqnum store hack as we can read after prepare.

tdb: allow reads after prepare commit
(Imported from SAMBA commit 46c99ec2a3781d53138245182345c6c2ddd9a258:
From: Andrew Tridgell <tridge@samba.org>
Date: Tue, 15 Sep 2009 14:04:22 -0700

We previously only allowed a commit to happen after a prepare
commit. It is in fact safe to allow reads between a prepare and a
commit, and the s4 replication code can make use of that, so allow it.

Build tests for ccan.
More sophisticated skipping: skip dependencies when one fails as well.
Allow tests to change their total_score; only access it after running (other than to check it's non-zero).

Don't run dependent tests if one fails.

Dependency checking (make sure .o files exist, prereq to building)

Fix grab_file on other than regular files.

Idris' dependency work.

tdb: fix ecode setting on nonblocking brlock

This bug was introduced in "Wean off TDB_ERRCODE.".

tdb: fix the unlock calls on the GLOBAL_LOCK from previous commit.

Despite the name, they're simple byte locks, not whole-file.

tdb: benchmark target.

tdb: fix locking unlocking error introduced in cleanup

tdb: locking cleanup

Explicitly split lock and unlock, for future replacement with user-supplied functions.
Use explicit flags enum for marking, blocking and probing.
Indicate upon unlock whether we had a read or write lock (POSIX doesn't care, but
wrappers might, and it's nice to be explicit).

Don't rely on terrible dup2 trick, use proper infrastructure for external agent.

Use _ convention everywhere: lock.c uses it already.

Increase max size: I actually hit this with a large file.

Fix multiply by three error, stat to get initial size.

Handle pre-existing records, wipe_all and repack (ldb users.ldb trace)

Port nested transaction allow from newer ctdb.
ie.  f1c6f7dd47bb1081781c0a0d567a92bbbc0aa5d5 (Revert "add TDB_NO_NESTING...")
and  3e49e41c21eb8c53084aa8cc7fd3557bdd8eb7b6 (New attempt at TDB transaction nesting allow/disallow).

Don't overwrite tdbs with different version numbers.
In future, this may happen, and we don't want to clobber them.

Make TDB 32 bit clean (not just 31 bit) for systems with 64 bit file offsets.

New test for endianness.

Wean off TDB_ERRCODE.
It was a regrettable hack to reduce line count in tdb; in fact it caused confusion as can be seen in this patch.
In particular, ecode now needs to be set before TDB_LOG.
Also, we should never set errno, as io.c was doing.

stringmap: fail path can print uninitialized var in test.

Import from SAMBA tdb:
commit a6cc04a20089e8fbcce138c271961c37ddcd6c34
Author: Andrew Tridgell <tridge@samba.org>
Date:   Mon Jun 1 13:13:07 2009 +1000

    overallocate all records by 25%

    This greatly reduces the fragmentation of databases where records
    tend to grow slowly by a small amount each time. The case where this
    is most seen is the ldb index records. Adding this overallocation
    reduced the size of the resulting database by more than 20x when
    running a test that adds 10k users.

Import from SAMBA tdb:
commit a386173fa1c7c5bcc11ea9260d84b6c52c154b3d
Author: Andrew Tridgell <tridge@samba.org>
Date:   Mon Jun 1 13:11:39 2009 +1000

    auto-repack in transactions that expand the tdb

    The idea behind this is to recover from badly fragmented free
    lists. Choosing the point where the file expands is fairly arbitrary,
    but seems to work well.

Import from SAMBA tdb:
commit 936d76802f98d04d9743b2ca8eeeaadd4362db51
Author: Andrew Tridgell <tridge@samba.org>
Date:   Tue Dec 16 14:38:17 2008 +1100

    imported the tdb_repack() code from CTDB

    The tdb_repack() function repacks a TDB so that it has a single
    freelist entry. The file doesn't shrink, but it does remove all
    freelist fragmentation. This code originated in the CTDB vacuuming
    code, but will now be used in ldb to cope with fragmentation from
    re-indexing

Fix up non-TDB_TRACE compile.

Turn off TDB_TRACE again (shouldn't have left it on in commit)

Remove const warning

Don't fail mysteriously on existing trace file.

Import from SAMBA tdb:
commit 4b4fec65db4e202afa13b2d15867f4d8a54d154e
Author: Andrew Tridgell <tridge@samba.org>
Date:   Thu May 28 16:08:28 2009 +1000

    make TDB_NOSYNC affect all the fsync/msync calls in transactions

    During a transaction commit tdb normally uses fsync/msync calls to
    make it crash safe. This can be disabled using the TDB_NOSYNC flag,
    but it wasn't disabling all the code paths that caused a fsync/msync.

Import from SAMBA's tdb:
commit a91bcbccf8a2243dac57cacec6fdfc9907580f69
Author: Jim McDonough <jmcd@samba.org>
Date:   Thu May 21 16:26:26 2009 -0400

    Detect tight loop in tdb_find()

Import from SAMBA's tdb:
commit b90863c0b7b860b006ac49c9396711ff351f777f
Author: Howard Chu <hyc@highlandsun.com>
Date:   Tue Mar 31 13:15:54 2009 +1100

    Add tdb_transaction_prepare_commit()

    Using tdb_transaction_prepare_commit() gives us 2-phase commits. This
    allows us to safely commit across multiple tdb databases at once, with
    reasonable transaction semantics

Signed-off-by: tridge@samba.org

merge

Neaten tdb to sync with samba version of locking fix.
Also, actually test locking, rather than just lock count (bit me in samba fix)

stringmap: Flipped bit order to match sorted string order and added traversal test

Speed up tracing by factor of 4-6, by writing less stupid code.

merge

Short types

talloc_link; a replacement for talloc's references.

_info files are no longer to be ignored, since we renamed them from _info.c

License for talloc is actually LGPL.

talloc_free() should take a const void *, a-la free().

Improved stringmap to support strings with null characters

Merge.